以提示工程協作 使用生成式人工智慧加速專案工作
2024/6/1 作家:裴有恆
664
自從2022年11月30日OpenAI開放使用ChatGPT,生成式人工智慧(生成式AI)的浪潮便吸引了大家的目光。ChatGPT透過學習大量的文本數據,生成具有上下文語義的自然語言文本,使用者問什麼,它都會回答。這種問答與跟它交流的文字,被稱為提示(Prompt),而提示不好,往往也得不到好的結果。
提出好的問題,也就是提示,讓ChatGPT這類的大型語言模型給出適合答案的工程方法—提示工程。大型語言模型的提示工程,可以透過角色扮演、清楚指令、限制等,說明輸入與輸出,得出想要的內容。提示的格式作法如下:
一、說明:角色扮演的背景設定,以及想要模型執行的特定任務或指令。
二、限制:包含外部訊息或具體的上下文訊息,幫助大型語言模型理解問題的背景與前提,引導它反應更好,提出「該」做什麼,而非「不該」做什麼。
三、輸入文字:用戶輸入的內容或問題。
四、輸出語句:明確指定輸出的類型、風格或格式。
可以要求模型以列表形式回答,使用正式措辭,或專業術語,透過範例明確指定輸出格式,輸出結果會更精確。
提示工程要先設計提示,而這是一個透過迭代來獲得最佳結果的過程。一開始可以就自己知道的元素填入,接下來透過回饋來添加更多元素和調整上下文,使用迭代來接近目標。因為大型語言模型是透過使用出現機率條件做文字接龍的方式,所以傾向使用常見詞彙及答案,如果要引導其生成創新和多樣化的答案,可以在提示中要求大型語言模型「提供非傳統的解決方案」,或是「進行更深入的思考或推理」。也因為ChatGPT等國外的大型語言模型,大部分的中文資料是使用簡體中文進行訓練,很容易看到回答簡體中文,所以可以一開始就跟它要求「請用繁體中文回答」,不然就是多一步「請翻譯成繁體中文」。。
另外,逐步進行要求是不錯的做法。針對自然語言的提示工程,透過「思維鏈」技術可以強化其邏輯性。什麼是思維鏈呢?思維鏈是透過引導,使用模仿思路的推理步驟,進而提高推理能力,這個方法有助大型語言模型做一些需要邏輯思維,或多個步驟解決的推理任務。
例如:ChatGPT剛出來時,很快就被發現數學運算的回答正確率不佳,根本原因是ChatGPT為語言模型,本身擅長語言接龍,並非邏輯運算,利用思維鏈技術,就能有效改善邏輯運算正確率,最簡單的作法就是在提示中要求輸出時「請一步接一步地思考」。
談到「思維鏈」的起源,可以追溯到古希臘時期的蘇格拉底式問答法,這種方法透過一系列問答深入探討主題,也類似TOYOTA強調用五個Why來獲得根源的作法,而「思維鏈」的特色,包括連貫性、深入性以及靈活性,解釋如下:
一、連貫性:問題之間具有邏輯連貫性,而每一個問題都建立在前一個問題的答案之上。
二、深入性:透過一系列的問答,深入探索一個問題的多個層面。
三、靈活性:可以應用於大型語言模型所有類型的問題,不受主題或領域的限制。
假設我們使用符合提示格式做為第一步,接下來可以針對大型語言模型做迭代回饋,也可以一次要求一些,以多步驟獲得清楚答案。透過逐步要求,讓大型語言模型了解每次提示的重點,以下展示作法:
第一步:先用四個部分格式的作法問出第一回的答案。
第二步:針對第一回的回覆,追問差別或步驟。
第三步:針對第二回的回覆,追問條件或資源。
第四步:針對第三回的回覆,請它提供可⾏的作法與選擇。
第五步及以後步驟:針對之後的回覆,再提供更多元素讓它改寫,多次迭代後會得到不錯的答案。
接下來我們討論進階用法,用樹狀結構來做多階段思考。首先,把達成目標的方法,拆解為多個步驟。每個步驟再請ChatGPT等大型語言模型,回答出多個可能性的結果。然後,再從中選擇比較好的結果,並由這個結果為出發點問問題,來得到下一步驟的多個結果。接續,在此下一步驟中選擇,這樣在每個步驟,都可以由ChatGPT提供的多個結果中做選擇。這個方法是將達成結果的過程,分解為多個步驟逐步進行,直到最終產生所需的輸出。
例如:請ChatGPT提供建議慶祝情人節的方式,在提供的10個選項中,選擇台南的浪漫之旅,請它再給我10個在台南適合的浪漫地點;接下來選擇住宿地點,我決定住在赤崁樓附近,請它提供10個建議;最後,一個度過情人節的浪漫計畫就出爐了。這個例子中只選擇了一個答案就繼續往下,也可以選擇多個答案,再一一發展,最後找出自己最喜歡的方案。
生成式AI在2023年大放異彩,在圖文及程式設計方面都有很不錯的發展,今年可能會在影片發展上有不錯的突破,但最重要的是,相關的工作效率大大提升,例如:準備上課內容的時間,只要原來的十分之一至三分之一,效率之高,令人訝異!不過生成式AI是從已經發布在網路上的大量資料去學習,運作時找出使用機率最高的,再根據使用者的回饋調整權重,做出文字接龍或算圖,所以得到的結果是眾人智慧中使用機率最高的組合,基礎的部分會有很好的表現,但是不能期望它做到非常傑出。
應用生成式AI提高工作效率已是現在進行式,而應用提示工程可以讓大型語言模型產出想要的結果,如果企業擔心使用公開的大型語言模型會有洩密的問題,可以跟微軟租用Azure OpenAI服務。如一開始提及,「會使用生成式AI強化效率的人,將取代不會生成式AI的人,而全公司的人都不使用生成式AI,相關效率必然低落,這也代表公司的競爭力降低,不可不慎。」
為專職AIoT物聯網顧問與數位轉型教練、新北市工業會顧問,曾任多家企業的顧問,以及多家媒體的科技專欄與特約作家。講授與輔導課題有物聯網、人工智慧、Fintech、大數據、產品創新、服務創新、商業模式創新與專案管理。現在同時也是Google查詢物聯網顧問、物聯網教練、物聯網講師、AIoT顧問、AIoT教練、AIoT講師、數位轉型教練、數位轉型講師人名的第一名。
您可能也喜歡這些文章