架構(gòu)師特刊：天工開物AIGC

CONTENTS/

目錄熱點

|Hot用AIGC寫2023高考語文作文，結(jié)果如何？程序員越“老”就越看不上AI輔助編程工具？Stack

Overflow

2023開發(fā)者調(diào)查AI特別報告ChatGPT正式進入車載系統(tǒng)：奔馳首測AI語音助手，可進行復(fù)雜對話谷歌警告自家員工：不要使用Bard生成的代碼微軟也搞起了開源小模型！利用OpenAI的ChatGPT和GPT-4訓(xùn)練，實力碾壓當前最強開源模型AIGC領(lǐng)域最大收購：Databricks花費13億美元買下只有15名研發(fā)的小公司！專題訪談

|Interview實訪用人單位：Prompt工程師真是低門檻“香餑餑”？神器還是垃圾？那些用AIGC編程的人，實踐得怎么樣了AI大模型競爭白熱化，算力優(yōu)化才是“超車點”？AIGC重構(gòu)智能客服，能否淘到大模型時代的第一桶金？要想用好GPT，我們必須跑得比“黑客”更快探索大模型智能：眾安保險基于AIGC的應(yīng)用實踐推薦文章

|ArticleGitHub

Copilot：做出一個劃時代的產(chǎn)品，只需要6個人大語言模型進化之謎：涌現(xiàn)現(xiàn)象的挑戰(zhàn)與爭議編程已死，AI當立？教授公開“唱反調(diào)”：AI還幫不了程序員LangChain：2023年最潮大語言模型Web開發(fā)框架視頻推薦

|Video本月，這些視頻值得一看！架構(gòu)師特刊：天工開物AIGC2023

年

07

月刊本期主編

蔡芳芳流程編輯

丁曉昀發(fā)行人

霍泰穩(wěn)反饋

feedback@商務(wù)合作

hezuo@內(nèi)容合作

editors@InfoQ架構(gòu)師特刊：天工開物AIGC卷首語史學(xué)家把十六、十七世紀的中國稱為“天崩地解”的時代，社會經(jīng)濟關(guān)系、工農(nóng)業(yè)內(nèi)部結(jié)構(gòu)發(fā)生變化，科學(xué)技術(shù)快速發(fā)展，因此，民間誕生了《天工開物》、《本草綱目》這樣的奇書。三百余年過去了，我們再一次來到了科學(xué)技術(shù)重構(gòu)社會經(jīng)濟關(guān)系的拐點——AIGC，這個最有想象力的詞正在以巨大的影響力，滲透到各行各業(yè)。在這樣的背景下，為了給大家?guī)斫?jīng)得住“拷問”的高質(zhì)量內(nèi)容，InfoQ發(fā)起了《天工開物AIGC》架構(gòu)師特刊。在內(nèi)容設(shè)計方面，我們決定從“水面上”、“水面下”兩個維度著手。在“水面上”的部分，我們整理AIGC領(lǐng)域近期的熱點新聞和測評，比如ChatGPT進入車載系統(tǒng)的消息、Google等大廠對AIGC輔助開發(fā)的態(tài)度，希望借此最大限度地保證你的知情權(quán)?；蛟S當下所處的行業(yè)、所任職的崗位并未受到AIGC太猛烈的沖擊，但中立的、實時的內(nèi)容報道，可以保證你時刻觀測AIGC的最新行業(yè)進展，在變革到來之際早做準備。在“水面下”的部分，我們更注重彌合信息差，擊破信息墻。近期有很多企業(yè)家在組織企業(yè)團隊做調(diào)研，也有技術(shù)專家、產(chǎn)品專家遠赴硅谷走近OpenAI，建立了對AIGC更加深度的認知。我們借Prompt工程師的發(fā)展前景、AIGC輔助編程實踐、AIGC大模型算力優(yōu)化、AIGC重構(gòu)智能客服等幾個維度，聯(lián)系相關(guān)企業(yè)、負責人，做了深度訪談，希望有條理地、盡可能地把行業(yè)第一手信息同步給更多的讀者。從實際訪談、調(diào)查結(jié)果來看，各行業(yè)對AIGC的理解和實踐是超乎想象的，從去年12月，InfoQ于國內(nèi)第一次報道ChatGPT爆火至今，短短七個月，很多研發(fā)團隊已經(jīng)積累了成熟的Prompt方法論，在在線設(shè)計、在線文檔、金融等領(lǐng)域做出了諸多產(chǎn)品研發(fā)嘗試，甚至研發(fā)團隊已經(jīng)非常習(xí)慣Copilot的輔助。與過往的元宇宙、Web3相比，AIGC的影響更1卷首語為深遠，變革更為迅速。動作最為迅速的企業(yè)，其AIGC應(yīng)用已經(jīng)發(fā)布上線；Prompt工程師崗位已經(jīng)完成JD設(shè)計，并面向社會開始招聘。此外，我們特別發(fā)起了四期直播，針對以上話題，邀請了行業(yè)十余位有實操經(jīng)驗的技術(shù)高管、骨干圓桌討論，超過三十萬人在InfoQ視頻號觀看了這些直播。直播的回放我們一并附在本期架構(gòu)師特刊中，以饗讀者。這期特刊包含的內(nèi)容很多，但我們不想給大家制造焦慮。信息的透明與同步，帶來的應(yīng)該是真正的平和。我們希望在這個信息爆炸的時代，去偽存真，通過經(jīng)過調(diào)查的內(nèi)容，給你帶來足夠的信息增量，有足夠的參考價值。幫助你更便捷地享受這一波科技紅利，更大程度地促成技術(shù)普惠。2InfoQ架構(gòu)師特刊：天工開物AIGC用AIGC寫2023高考語文作文，結(jié)果如何？作者

王一鵬一年一度高考時間，令眾人關(guān)注的語文考試作文題已經(jīng)公開。那么，如果命令A(yù)IGC來完成今年的作文考試，AI大概能得多少分呢？為了完成這個測試，我們選擇了文心一言、訊飛星火認知大模型、通義千問、ChatGPT來分別應(yīng)對，作文題選用2023全國甲卷作文題，題目：閱讀下面的材料，根據(jù)要求寫作。人們因技術(shù)發(fā)展得以更好地掌控時間，但也有人因此成了時間的仆人。這句話引發(fā)了你怎樣的聯(lián)想與思考？請寫一篇文章。要求：選準角度，確定立意，明確文體，自擬標題；不要套作，不得抄襲；不得泄露個人信息；不少于800字。3熱點

|

Hot為此我們特別邀請了一位教齡35年以上的資深高中語文教師聶文革老師，來給各篇作文打分，每篇作文的評分放在文章下方，老師的總結(jié)性評語放在文末。需要特別指出的是，作文評分本來就有主觀因素，且高考作文的評判標準與尋常文章又有不同，本次“作文大賽”并非正式評測，評測結(jié)果也不能代表各大模型本身的能力素質(zhì)，僅供大家參考。下面開始。作文一：時間的主人及其悖論作者：文心一言時間，是宇宙中最為普遍的公平，無差別地賦予每一個人以生命，使之在有限的尺度內(nèi)創(chuàng)造與體驗。然而，人們對于時間的理解和運用卻千差萬別，有人視時間為寶庫，有人視其為仆人。對此，我深感思考的必要，欲探討我們應(yīng)如何對待時間這一最珍貴的禮物。在技術(shù)的照耀下，我們得以更深入地解讀時間。古人云“光陰似箭，日月如梭”，時間的流逝在技術(shù)的輔助下，變得清晰可見。曾經(jīng)，人們通過日晷、沙漏來感知時間，如今，我們借助衛(wèi)星導(dǎo)航、原子鐘等技術(shù)精確到秒的毫厘之間。技術(shù)的發(fā)展使我們更能丈量時間，從而更好地管理我們的生活。然而，技術(shù)并未完全使我們的生活擺脫時間的束縛，反而使人在某種程度上成為其奴隸。古人云“逝者如斯夫，不舍晝夜”，時間的無情在技術(shù)的洪流中似乎得到了強化。我們陷入了一種時間的悖論，一方面，我們通過技術(shù)得以更深入地理解時間，另一方面，我們也因技術(shù)而更加受制于時間。對此，我想說的是：我們不應(yīng)讓技術(shù)成為時間的幫兇，而應(yīng)成為我們駕馭時間的利器。我們不能讓時間的洪流沖垮我們，反而應(yīng)利用它來發(fā)展我們的能力。諸如司馬遷、貝多芬等偉大的人物，他們并未因時間的無情而退縮，反而因時間的磨礪而更加堅韌。他們用時間來鍛造自我，使自己成為時間的勝者。此外，我們還應(yīng)學(xué)會欣賞時間的美。正如詩人徐志摩所說：“你來或者不來，花都4InfoQ架構(gòu)師特刊：天工開物AIGC會為你開放?！蔽覀儜?yīng)該像花那樣，靜靜地綻放，欣賞時間的贈禮。我們應(yīng)在時間的賽道上奔跑，同時欣賞沿途的風(fēng)景，體會生活的韻味。不應(yīng)讓時間的緊迫性遮蔽了我們對生活的熱愛和對時間的敬畏。在此，我提倡一種“慢生活”，即在不忽視時間流逝的前提下，放慢生活的節(jié)奏，去體驗生活的每一個瞬間。正如卡夫卡所言：“我們應(yīng)該感恩我們在地球上的每一秒。”每一秒都是生命的一部分，都值得我們?nèi)フ湟暫腕w驗。然而，慢生活并不意味著對時間的浪費或者對生活的消極態(tài)度。相反，它是一種對生活的深度參與和積極體驗。它讓人能夠在繁忙的生活中找到片刻的寧靜，去思考人生的意義和價值。在這個快速發(fā)展的世界中，這樣的片刻寧靜也許更能讓我們找回內(nèi)心的自我和方向?？偟膩碚f，我們應(yīng)當成為時間的主人，而非仆人。我們應(yīng)當利用技術(shù)來更好地理解時間，但不應(yīng)被時間所驅(qū)使。我們應(yīng)該在快節(jié)奏的生活中找到時間留下的美好瞬間，去享受生活而不是被生活所驅(qū)使。只有這樣，我們才能真正地掌控時間，而不是被時間所控制。老師評分（60分制）：50分作文二：掌控時間，做自己的主人作者：訊飛星火認知大模型隨著時代的發(fā)展，科技的進步，人們的生活水平不斷提高，但與此同時，一些新的問題也隨之而來。比如：現(xiàn)在的學(xué)生因為要完成老師布置的大量作業(yè)而熬夜，導(dǎo)致第二天上課時無精打采；上班族因工作繁忙，經(jīng)常加班加點，沒有充足的睡眠而導(dǎo)致身體抵抗力下降，甚至生病......這些都是由于我們沒有掌控好自己的時間。我們應(yīng)該掌控好自己的時間，做自己的主人?！耙淮绻怅幰淮缃?，寸金難買寸光陰?！边@句話說得一點也沒錯。時間是非常珍貴的，就像沙漏里的沙子一樣，稍不留神就會流走。魯迅先生說過：“時間就像海綿里的水，只要愿擠總還是有的。”是?。≈灰覀冊敢馊D，時間總是會有的。可是有的人5熱點

|

Hot卻把時間當作金錢來浪費，他們整天無所事事，不知道該做些什么，最后只會落得個一事無成、白白浪費掉自己寶貴的時間的下場。那么我們應(yīng)該怎樣才能更好地掌控我們的時間呢？首先，我們要學(xué)會合理地安排和規(guī)劃自己的時間。每天早上起來后，先列出今天要完成的任務(wù)，然后再根據(jù)任務(wù)的輕重緩急來確定每件事情所需要的時間。在做事情的時候，要一心一意地把這件事情做好，不要一會兒做這件事，一會兒又做那件事，最后什么也沒有做好。其次，我們還要學(xué)會珍惜時間。不要以為時間很長，其實它是很短暫的。如果我們把每一天都過得充實有意義的話，那么一年的時間就會很快過去。所以我們要珍惜時間，不要虛度年華。最后，也是最重要的一點就是要有計劃、有目的地去學(xué)習(xí)知識、掌握技能。只有不斷地學(xué)習(xí)和積累才能使我們更加聰明、更加有能力。當然了，要想做到掌控好自己的時間并不是一件容易的事情。它需要我們付出很大的努力和汗水，需要我們克服各種各樣的困難和挑戰(zhàn)。但是只要我們堅持下去，相信我們一定能夠做到的！讓我們一起掌控好自己的時間吧！讓我們成為時間的主人！讓我們用我們的勤奮和智慧去創(chuàng)造一個更加美好的未來！老師評分（60分制）：48分作文三：被技術(shù)控制的時間作者：通義千問技術(shù)的發(fā)展讓人們可以更加精準地掌控時間，這原本是一件令人欣喜的事情，但是，有些人卻因此成為了時間的奴隸。在現(xiàn)代社會中，人們越來越依賴各種智能設(shè)備來幫助自己管理時間，如智能手表、智能手環(huán)、時間管理軟件等等。這些設(shè)備可以幫助人們監(jiān)測自己的運動量、睡眠質(zhì)量、飲食健康等各個方面，同時也可以提供諸如提醒、計時、日程安排等多種功能，讓人們可以更加高效地利用時間。然而，這種便利的技術(shù)也會帶來一些負面的影響。很多人開始沉迷于各種智能設(shè)備，6InfoQ架構(gòu)師特刊：天工開物AIGC甚至成為了它們的奴隸。他們不斷地查看手表、手環(huán)上的時間，生怕錯過了任何一個重要的事情，甚至連睡覺都要把手機放在身邊，生怕錯過了任何一個電話或者短信。這樣的生活方式不僅讓人感到疲憊不堪，而且也會嚴重地影響個人的健康和心理健康。更重要的是，這種依賴智能設(shè)備的行為也會讓人變得越來越懶惰。人們開始變得不愿意去思考、不愿意去行動，而是完全依賴于設(shè)備的提醒和幫助。這樣一來，人們就失去了自我管理的能力，也失去了對時間的掌控力。因此，我們必須認識到技術(shù)發(fā)展所帶來的負面影響，并且努力避免成為時間的奴隸。我們需要學(xué)會自我管理和自我控制，合理地利用各種技術(shù)工具來幫助自己提高效率，而不是完全被它們所控制。同時，我們也需要保持獨立思考和行動的能力，不斷探索和追求自己的夢想和目標，而不是成為時間的奴隸。老師評分（60分制）：52分作文四：時間的掌控與被掌控作者：ChatGPT時間是偉大的創(chuàng)造者，也是無情的裁判。隨著科技的不斷發(fā)展，人們對時間的掌控力越來越強，但也有人在這個過程中成了時間的仆人。本文將從時間的掌控與被掌控兩個方面展開探討，旨在引發(fā)讀者對時間的思考。一、時間的掌控人類歷史上，時間的掌控一直是人類追求的目標之一。古代的日晷、水鐘，現(xiàn)代的鐘表、手機等工具，都為人們提供了更加精準的時間信息。在這個信息爆炸的時代，時間管理也成為了人們追求高效、優(yōu)質(zhì)生活的必備技能之一。人們通過各種時間管理方法，如番茄工作法、GTD等，來更好地利用時間，實現(xiàn)自己的目標。在現(xiàn)代社會，時間的掌控不僅僅是個人的需要，也是企業(yè)、組織的需要。時間不僅是金錢，更是效率。企業(yè)通過時間管理，提高生產(chǎn)效率，降低成本，增加利潤。組織通過時間管理，提高員工的工作效率和生產(chǎn)力，實現(xiàn)自己的戰(zhàn)略目標。在這個過程中，時間成為了人們的朋友，幫助人們更好地實現(xiàn)自己的目標。7熱點

|

Hot二、時間的被掌控然而，隨著科技的發(fā)展，人們的生活越來越被時間所掌控。社交網(wǎng)絡(luò)、即時通訊工具等，讓人們無時不刻地處于“在線”狀態(tài)，隨時隨地接受信息和任務(wù)，人們的自由時間越來越少。特別是在全球化的時代，人們需要面對不同時區(qū)、不同文化的人們，需要不斷地調(diào)整自己的生活節(jié)奏，這使得人們的生活更加被動。此外，一些新興行業(yè)也讓人們更加被時間所掌控。比如網(wǎng)約車司機、外賣配送員等，他們需要隨時待命，承擔著不確定的工作量和工作時間。在他們看來，時間不再是自己的，而是被工作所占據(jù)。這些人們的工作，雖然帶來了一定的經(jīng)濟收益，但同時也剝奪了他們自由支配時間的權(quán)利。三、時間的啟示時間的掌控與被掌控，是人們面臨的一個共同問題。我們需要更好地掌控時間，實現(xiàn)自己的目標，但同時也需要注意不被時間所掌控。我們應(yīng)該把握好自己的時間，不斷提高自己的效率和生產(chǎn)力，實現(xiàn)自己的價值。但是，我們也應(yīng)該學(xué)會放松自己，享受生活，讓時間成為我們的伙伴，而不是我們的敵人。在現(xiàn)代社會，人們需要更好地認識時間的價值，明確時間的重要性。我們應(yīng)該尊重時間，珍惜時間，因為時間是不可逆轉(zhuǎn)的。我們應(yīng)該用時間去實現(xiàn)自己的夢想和目標，去創(chuàng)造屬于自己的價值。總之，時間是人類追求的目標之一，也是人類必須面對的問題。我們需要掌控時間，實現(xiàn)自己的目標，但同時也需要注意不被時間所掌控。只有在這個過程中，我們才能實現(xiàn)自己的夢想和目標，創(chuàng)造屬于自己的價值。老師評分（60分制）：45分老師整體評語：這四篇作文，均能緊扣材料核心，以時間·科技·人類為話題，結(jié)合現(xiàn)實生活的現(xiàn)象，發(fā)揮辯證性思維，符合高考作文趨勢。第一篇亮點：在時間快與慢的節(jié)奏變化中體驗生活之美；第二篇亮點：重點提出了一些具體措施，文章實用性強；第三篇8InfoQ架構(gòu)師特刊：天工開物AIGC針對性極強，有社會意義，作文為時而作，有助于解疑釋惑。第四篇結(jié)構(gòu)清晰，思維明確，綜合評分為50分，48分，52分，45分。此外，如果從高考應(yīng)試作文角度考慮，四篇作文的題目中第二篇文章的題目符合要求，其他三篇文題應(yīng)作修改。當然，關(guān)于AIGC，極客邦科技也在努力為大家提供更多的AIGC相關(guān)內(nèi)容，滿足大家對于精品資訊、資料、課程的需求。在3月中旬，極客時間一次性發(fā)布四門AIGC公開課，其中包括句子互動公司創(chuàng)始人兼CEO李佳芮的《ChatGPT從0到1》、新加坡科研局高級研究員黃佳的《ChatGPT和預(yù)訓(xùn)練模型實戰(zhàn)課》、優(yōu)頻科技有限公司CTO孫其瑞的《Stable

Diffusion：零基礎(chǔ)學(xué)會AI繪畫》以及NebulaGraph軟件工程師古思為的《GitHubCopilot實踐課》與此同時，bothub創(chuàng)始人、布奇托網(wǎng)絡(luò)科技創(chuàng)始人兼CTO徐文浩，在極客時間開設(shè)了課程《AI大模型之美》，是「極客時間AIGC未來教育系列課程」之一，聚焦于讓大家充分認識、使用OpenAI、Stable

Diffusion等開發(fā)工具，實現(xiàn)自主可用的AIGC應(yīng)用，現(xiàn)已有1.8w人加入學(xué)習(xí)。珠海太乙人工智能技術(shù)合伙人尹會生，則在極客時間開辦了《21天AIGC行動營》。都說AIGC會淘汰掉某些崗位，但有許多同學(xué)已經(jīng)在這里率先成為AIGC時代的高效工作者，AIGC變成了他們手中的效率提升工具。6月還將有重磅的AIGC主題訓(xùn)練營與大家見面，聚焦AIGC與企業(yè)私域數(shù)據(jù)結(jié)合，開發(fā)為企業(yè)特別定制的AIGC服務(wù)，相信也契合了很多研發(fā)小伙伴的實際工作。其他往期InfoQ關(guān)于AIGC的部分報道：1.

AIGC，下一個即將爆發(fā)的萬億級AI技術(shù)風(fēng)口_技術(shù)洞察_技術(shù)趨勢_大廠實踐_InfoQ精選專題2.

極客圓桌派：狂飆的ChatGPT

|

InfoQ《極客有約》_AI_InfoQ中文站_InfoQ精選視頻3.

極客圓桌派：ChatGPT點燃AI狂潮

|

InfoQ《極客有約》_AI_InfoQ中文站_InfoQ精選視頻4.

我們是如何探索把ChatGPT推到企業(yè)級應(yīng)用的？

|

InfoQ《極客有約》_AI_InfoQ中文站_InfoQ精選視頻9熱點

|

Hot程序員越“老”就越看不上AI輔助編程工具？StackOverflow2023開發(fā)者調(diào)查AI特別報告作者

Tina今天，Stack

Overflow正式發(fā)布了一年一度的開發(fā)者調(diào)查結(jié)果。今年Stack

Overflow收到了來自185個國家的90,000份回復(fù)，這次他們十分關(guān)注AI的使用情況。今年AI大火，Stack

Overflow希望了解AI對開發(fā)人員的工作方式是否產(chǎn)生了真正的影響，因此對AI的深入調(diào)查，是今年特有的。Stack

Overflow產(chǎn)品營銷副總裁Joy

Liuzzo表示，該公司將使用開發(fā)者的這些回復(fù)來塑造自己的AI產(chǎn)品。Stack

Overflow曾公開表示AI是該網(wǎng)站的“大機遇”，“我們現(xiàn)在正在投資AI，我們需要了解開發(fā)人員如何看待這項技術(shù)，并根據(jù)回應(yīng)情況將其納入開發(fā)人員的工作流程中，”Liuzzo說道。10InfoQ架構(gòu)師特刊：天工開物AIGC這次調(diào)查關(guān)于AI使用的亮點有：?

相對于學(xué)習(xí)編程的人來說，專業(yè)人士對AI工具的采用更為緩慢。30%的專業(yè)開發(fā)人員表示沒有采用AI輔助編程工具的計劃。?

ChatGPT是最受歡迎的AI搜索工具，被83%的受訪者使用，其次是Bing

AI（20%）、WolframAlpha（13%）和GoogleBardAI（10%）。?

GitHub

Copilot是最受歡迎的開發(fā)者搜索工具，被55%的受訪者使用，其次是Tab-nine（13%）和AWS

CodeWhisperer（5%）。?

與美國、英國和德國的開發(fā)人員相比，印度、巴西和波蘭的受訪者更有可能接受AI工具。專業(yè)開發(fā)人員信任AI嗎？Stack

Overflow發(fā)現(xiàn)，很多開發(fā)人員已經(jīng)在使用AI。其中44%的開發(fā)人員現(xiàn)在就在他們的開發(fā)過程中使用AI工具，26%的人計劃很快開始使用。學(xué)習(xí)編程的人采用人數(shù)更多，達到55%，這些早期采用者一旦進入專業(yè)開發(fā)人員職位，將成為技能嫻熟的AI用戶。盡管越來越多的開發(fā)人員在使用AI工具，但他們使用的種類并不多。Stack

Overflow詢問開發(fā)人員他們正在使用哪些工具，在今年列出的21個選項中，絕大多數(shù)只是使用了兩個熱門產(chǎn)品：ChatGPT（83%）和GitHubCopilot（56%）。Stack

Overflow還發(fā)現(xiàn)，隨著經(jīng)驗的增加，開發(fā)人員對將AI工具表現(xiàn)得更為冷淡。近40%的擁有超過21年經(jīng)驗的開發(fā)人員表示他們不打算使用這些工具或計劃使用這些工具。畢竟更有經(jīng)驗的開發(fā)人員通常從事更復(fù)雜的項目和/或代碼結(jié)構(gòu)，AI工具目前無法幫助解決這些問題。11熱點

|

Hot而且這些較新的AI技術(shù)，現(xiàn)在還處于炒作周期的早期階段。Stack

Overflow預(yù)計，在更廣泛地應(yīng)用之前，開發(fā)人員可能還需要更多的時間調(diào)整現(xiàn)有的工作流程來適應(yīng)這些工具。導(dǎo)致AI工具在開發(fā)過程中采用速度較慢的另一個因素是專業(yè)開發(fā)人員對AI工具的準確性不太信任。在使用或計劃使用AI工具的人中，只有3%非常信任它們的準確性，而有兩倍多的人（6%）非常不信任。雖然多數(shù)人（39%）對AI工具有些信任，但這個回應(yīng)告訴我們AI工具仍需要證明它們的有用性。對于新工具的采用，“信任但要核實”可能是最佳方法。今年一個非常受歡迎的問題是“為什么ChatGPT在數(shù)學(xué)上不準確？”這個問題涉及到AI工具（特別是那些基于大型12InfoQ架構(gòu)師特刊：天工開物AIGC語言模型訓(xùn)練的工具）無法理解復(fù)雜問題的問題。但實際上，人們在這類問題上也經(jīng)常出錯。另外，在什么地方工作也會對結(jié)果造成影響。來自印度、巴西和波蘭的專業(yè)開發(fā)人員最有可能使用或計劃在其開發(fā)流程中使用AI工具，這些國家的回應(yīng)率達到70%甚至更高。而英國、法國、美國和德國的開發(fā)人員更有可能表示他們不計劃使用AI工具（回應(yīng)率達到36%）。印度和巴西是許多“新”技術(shù)人才的來源地，這一趨勢可從過去的開發(fā)者調(diào)查中看出，因此在這些地區(qū)更廣泛地使用AI工具是有道理的。而歐盟國家和美國的情況比較特殊，因為可以通過最近的新聞推斷出GDPR法規(guī)對AI進行監(jiān)管的可能性在增大。法國已經(jīng)開始調(diào)查針對ChatGPT的投訴。在美國，雖然目前還沒有相關(guān)法規(guī)，但一些公司已經(jīng)開始公布禁止在工作中使用ChatGPT的政策，同時Stack

Overflow和Reddit也公開表示他們將開始收費以限制訪問社區(qū)數(shù)據(jù)。無論是準確性問題還是法律規(guī)定或工作場所規(guī)定，這些因素都使開發(fā)人員不敢迅速采用這些AI工具。AI輔助工具的好處Stack

Overflow表示，無論現(xiàn)在的采用情況如何，開發(fā)人員對這些AI工具的可能性都持積極態(tài)度。調(diào)查發(fā)現(xiàn)，77%

的受訪者對在他們的工作流程中使用AI感到滿意，70%的受訪者今年已經(jīng)在使用或計劃使用AI編碼工具。在實際使用中，與專業(yè)開發(fā)人員相比，學(xué)習(xí)編程的人員主要是用AI工具進行調(diào)試和獲得幫助(68%)，并了解代碼庫(50%)。而專業(yè)開發(fā)人員最感興趣的是使用AI工具測試代碼(65%)、提交和審查代碼(64%)，以及使用它們進行部署和監(jiān)控(61%)，以及記錄代碼或了解代碼庫(58%)。整體來說，AI工具給開發(fā)者帶來的好處，主要還是體現(xiàn)在提高生產(chǎn)力和加快學(xué)習(xí)速度上。13熱點

|

Hot根據(jù)調(diào)查結(jié)果來看，在對AI工具有好感的所有開發(fā)人員角色中，高級管理人員（63%）與數(shù)據(jù)科學(xué)家和區(qū)塊鏈開發(fā)人員一起位居榜首。嵌入式應(yīng)用程序開發(fā)人員、桌面/企業(yè)開發(fā)人員和硬件工程師不太可能使用這些工具，并且將來也不太愿意使用它們。Stack

Overflow希望硬件工程師暫時不要使用人工智能，因為這些工具的準確性方面讓人信心不足。Stack

Overflow也在調(diào)查中詢問了開發(fā)人員，明年在工作流程中使用AI工具，是否會跟今年有所不同，72%的人表示或許在編寫代碼流程中會有所不同，78%的人對使用AI調(diào)試代碼持相同看法。14InfoQ架構(gòu)師特刊：天工開物AIGC參考資料https://survey.stackoverflow.co/2023/#aihttps://stackoverflow.co/labs/developer-sentiment-ai-ml/https://stackoverflow.blog/2023/06/13/hype-or-not-developers-have-something-to-say-about-ai//2023/6/13/23759101/stack-overflow-developers-survey-ai-cod-ing-tools-moderators-strike15熱點

|

HotChatGPT正式進入車載系統(tǒng)：奔馳首測AI語音助手，可進行復(fù)雜對話作者

凌敏AI浪潮下，千行百業(yè)實現(xiàn)了新一輪智能化轉(zhuǎn)型。此前，ChatGPT已經(jīng)開始接入各種各樣的企業(yè)級應(yīng)用中，顛覆原有的使用體驗。近日，有消息稱，ChatGPT正式進入車載系統(tǒng)，為汽車帶來進一步智能升級。據(jù)外媒報道，6月15日，梅賽德斯-奔馳和微軟共同宣布，兩家公司正在合作擴大人工智能的使用，計劃將ChatGPT整合到車輛的語音控制系統(tǒng)中。據(jù)介紹，測試版計劃為期三個月，根據(jù)從中發(fā)現(xiàn)的問題以及車主反饋，梅賽德斯-奔馳公司將會考慮在更深的層次上整合ChatGPT。微軟公司發(fā)言人介紹稱，這也是ChatGPT產(chǎn)品第一次應(yīng)用在汽車環(huán)境中。16InfoQ架構(gòu)師特刊：天工開物AIGC據(jù)悉，這項合作將通過微軟的Azure

OpenAI服務(wù)為車主帶來聊天機器人ChatGPT的體驗。梅賽德斯-奔馳表示，從6月16日開始，在美90萬輛配備MBUX信息娛樂系統(tǒng)的車輛都可參與測試，使用ChatGPT驅(qū)動的語音助手。車主可以通過登錄官方應(yīng)用程序“Mercedes

me”，或在車內(nèi)使用語音命令“嘿梅賽德斯，我想加入測試計劃”，自愿注冊參與測試。注冊完成后，車主便可以通過車載語音助手訪問ChatGPT。對于此次合作，微軟指出，車載ChatGPT能支持更動態(tài)的對話——不僅可以理解車主的語音命令，還可以進行交互式對話，對話范圍可以涵蓋地點信息、菜譜、甚至是一些更加復(fù)雜的問題，進而讓駕駛員的眼睛更專注于路況。與普通的語音助手不同，車載ChatGPT可以處理完整的對話，例如追問，并且能保持對前后文的理解。駕駛員可以提出復(fù)雜的問題或進行多輪對話，從語音助手那里收到詳細的回復(fù)。微軟還在與梅賽德斯-奔馳探索ChatGPT的插件生態(tài)系統(tǒng)，為第三方服務(wù)集成開辟可能性。駕駛員未來有望通過車載系統(tǒng)，就能完成預(yù)訂餐廳、預(yù)定電影票等任務(wù)，進一步提高便利性和生產(chǎn)力。17熱點

|

Hot谷歌警告自家員工：不要使用Bard生成的代碼作者

褚杏娟根據(jù)路透社消息，谷歌警告員工不要泄露機密信息或使用其AI聊天機器人生成的代碼，包括自己正在全球推廣的Bard。知情人士稱，谷歌母公司Alphabet已建議員工不要將機密材料輸入人工智能聊天機器人，該公司援引了長期保護信息政策。研究人員發(fā)現(xiàn)AI可以重現(xiàn)它在訓(xùn)練期間吸收的數(shù)據(jù)，從而造成泄漏風(fēng)險。還有知情人士透露，Alphabet提醒其工程師避免直接使用聊天機器人生成的計算機代碼。該公司表示Bard會提出不受歡迎的代碼建議。問題是可能導(dǎo)致錯誤程序或復(fù)雜、臃腫的軟件。與根本不使用AI進行編碼相比，開發(fā)人員將花費更多時間來修復(fù)這些問題。據(jù)Insider報道，到2月，谷歌告訴測試Bard的工作人員在發(fā)布前不要向Bard提供內(nèi)部18InfoQ架構(gòu)師特刊：天工開物AIGC信息。現(xiàn)在谷歌將Bard推廣到180多個國家和40種語言。如今，告誡自己的員工不要直接使用Bard生成的代碼一事，打破了谷歌聲稱其聊天機器人可以幫助開發(fā)人員提高工作效率的說法。創(chuàng)建者自己由于隱私和安全風(fēng)險都不使用的話，其他人該怎么相信并使用呢？前不久，谷歌準備在歐盟地區(qū)推出Bard，但是由于歐盟隱私數(shù)據(jù)監(jiān)管機構(gòu)提出質(zhì)疑，谷歌被迫將發(fā)布日期向后推遲。愛爾蘭數(shù)據(jù)保護委員會近日指出，谷歌并沒有明確說明Bard服務(wù)將如何遵守歐盟地區(qū)的隱私數(shù)據(jù)保護規(guī)定。參考鏈接/technology/google-one-ais-biggest-backers-warns-own-staff-about-chatbots-2023-06-15/19熱點

|

Hot微軟也搞起了開源小模型！利用OpenAI的ChatGPT和GPT-4訓(xùn)練，實力碾壓當前最強開源模型作者

核子可樂

褚杏娟Chatbot

Arena等排行榜已經(jīng)反復(fù)證明，數(shù)十億美元支撐起來的ChatGPT仍然是聊天機器人領(lǐng)域無可爭辯的王者。而人們只能調(diào)用其API，無法私有化部署，無法自己訓(xùn)練調(diào)整。因此，大家現(xiàn)在熱衷于用開源大模型來構(gòu)建AI聊天機器人，希望能在性能層面達到甚至超越ChatGPT等專有模型的水平。近期，微軟出人意料地發(fā)布了一個只有13億參數(shù)但具有大模型推理能力的開源小模型Orca，它使用創(chuàng)新的訓(xùn)練方法，成為首位敢于同專有模型叫板的挑戰(zhàn)者。而且，Orca20InfoQ架構(gòu)師特刊：天工開物AIGC的規(guī)模僅是其競爭對手的幾十分之一（甚至可能只相當于GPT-4的幾百分之一）。令人難以置信的是，Orca在某些場景下甚至表現(xiàn)更好，而且完全碾壓迄今為止所謂最強開源模型Vicuna。論文地址：/pdf/2306.02707.pdf那么，Orca究竟是怎么做到的？新的訓(xùn)練方式：巧勁勝于蠻力在說起AI模型訓(xùn)練時，資金投入基本已經(jīng)成為首要前提。具體來講，談到模型中的幾十億參數(shù)，這背后的涵義包括：?

光是收集訓(xùn)練數(shù)據(jù)就要花上幾百萬美元；?

基礎(chǔ)模型的訓(xùn)練還要再花上幾百萬美元；?

模型的微調(diào)也可能花費幾十萬美元；21熱點

|

Hot?

不要說人類反饋強化學(xué)習(xí)（RLHF）。如果公司單季度收入達不到數(shù)十億美元的量級，這個環(huán)節(jié)最好碰都別碰。所以說起“大語言模型”的競逐，其實全世界有資格參與進來的也不過四、五家公司。因此，為了在性能層面跟ChatGPT等大體量專有模型相對抗，研究人員別無選擇，只能選擇以巧勁破解對方的財力。而在生成式AI領(lǐng)域，所謂的“巧勁”正是“蒸餾”（distillation）。簡單來說，蒸餾就是選位優(yōu)秀的同志，再把它的響應(yīng)能力作為小模型的學(xué)習(xí)素材。為什么要這么干？非常簡單：ChatGPT雖然擁有數(shù)十億個參數(shù)，但只有“少數(shù)”參數(shù)真正重要。從原理層面來講：?

我們必須先讓模型擁有足夠多的參數(shù)，才能保證其掌握現(xiàn)實世界中的種種復(fù)雜表征。?

這樣做的結(jié)果就是，大部分模型中的大部分參數(shù)始終處于未使用狀態(tài)。研究人員意識到這個現(xiàn)實問題后，得出了以下結(jié)論：假設(shè)GPT-4這樣的先進模型未來仍須以體量增長作為必要條件，那在擁有了訓(xùn)練得到的大模型之后，能不能再用一個比其小得多的模型簡單重現(xiàn)大模型的部分或者全部特性？換句話說，在引導(dǎo)AI模型學(xué)習(xí)現(xiàn)實情境時，能不能先用大語言模型完成其中最繁重的“模式提取”任務(wù)，再讓它們作為“老師”指導(dǎo)那些體量較小的模型？答案是可以。蒸餾的過程就是這樣一種AI學(xué)習(xí)方法，以大體量模型為模板訓(xùn)練小體量模型。所以開源社區(qū)的最佳AI聊天機器人開發(fā)流程基本可以概括為：?

對大語言模型（教師）進行采樣，以構(gòu)建{用戶指令，輸出}的查詢數(shù)據(jù)集。這里常見的選項當然是ChatGPT。?

接下來，選擇一個較小的模型（參數(shù)量大約在5億到150億之間）作為“學(xué)生”。?

學(xué)生的任務(wù)就是盡量減少自身輸出與教師輸出間的差異，學(xué)習(xí)它、模仿它。?

這樣，小體量模型就能夠掌握教師的風(fēng)格并輸出類似結(jié)果，并把訓(xùn)練和運行成本控制在更低的水平。22InfoQ架構(gòu)師特刊：天工開物AIGC這樣新的先進模型就此誕生，且成本僅為大模型的百分之一。聽起來不錯，但現(xiàn)實世界顯然沒那么美好。雖然這些模型能夠有效學(xué)習(xí)教師的風(fēng)格和語言連續(xù)性（例如Vicuna或Alpaca），但卻往往無法掌握對方的強大推理能力。也就是說，在對復(fù)雜任務(wù)做出評估時，其表現(xiàn)會遠遜于自己的老師。沒錯，是“遠遠”遜于。Orca碾壓開源模型，趕超ChatGPT現(xiàn)在，大多數(shù)開源模型的性能其實被故意夸大了。Vicuna、Alpaca等開源模型的出色性能，可能是研究人員精心挑選的結(jié)果。直到現(xiàn)在，它們在推理基準測試上的表現(xiàn)仍一言難盡。例如，雖然Vicuna在衡量復(fù)雜任務(wù)的基準測試中，已經(jīng)能在風(fēng)格和語言連續(xù)性方面達到GPT-4的89%左右，可一旦面對七步邏輯推演等挑戰(zhàn)，雙方的差距就會擴大到令人尷尬的5400%。換句話說，這時GPT-4的性能達到Vicuna的55倍。Orca的研究人員意識到了這個問題，并努力做出了改進。在Big-Bench

Hard上使用零樣本提示的性能測試中，括號內(nèi)的2900%代表Orca相對Vicuna的改進程度。23熱點

|

HotOrca在所有任務(wù)上的綜合表現(xiàn)略好于ChatGPT，但明顯落后于GPT-4，比Vicuna高出113%。與AGIEval的結(jié)果類似，Vicuna在此基準測試的復(fù)雜推理任務(wù)上表現(xiàn)不佳。Orca雖然明顯優(yōu)于Vicuna且略優(yōu)于ChatGPT，但平均性能為49.7%，落后于GPT-4

26%。測試中，Orca在時間序列（時間推理）、導(dǎo)航（遵循導(dǎo)航指令）、彩色物品（識別給定上下文的對象顏色）方面分別優(yōu)于ChatGPT

102%、3.6%和1.7%。Orca在因果判斷任務(wù)上表現(xiàn)出色，性能與GPT-4相當，同時超過ChatGPT

4.7%。在檢測翻譯錯誤上，Orca和ChatGPT水平差不多。Orca在需要各種知識的任務(wù)（例如體育、藝術(shù)家、幽默等）方面表現(xiàn)不如ChatGPT，但在電影推薦方面表現(xiàn)更好。在Web

of

Lies測試中，Orca甚至把GPT-4也斬落馬下，性能比這套體量百倍于自身的明星模型還高出3%。Vicuna自然也不在話下，但Orca的得分比其高出24.3%。來源：Microsoft(Webofliesexample)令人印象深刻的是，在以上所有任務(wù)中，Orca的平均性能已經(jīng)超越GPT-3.5。這不僅是開源模型的一個新里程碑，同時也穩(wěn)定將性能保持在Vicuna的兩倍以上。雖然在大多數(shù)情況下，Orca仍落后于無可爭議的王者GPT-4，但這種以小搏大、碾壓其他開源同儕并偶爾超越老大哥的表現(xiàn)，究竟是怎么實現(xiàn)的？Orca研究人員做了什么當前小模型通過指令微調(diào)來模仿大模型的方式主要存在以下問題：?

指令簡單且缺乏多樣性。?

收集的數(shù)據(jù)規(guī)模小，任務(wù)缺乏多樣性。?

模仿信號有限，只能通過老師模型生成的<query、response>進行模仿學(xué)習(xí)。?

評估標準較弱。用大模型對小模型進行指令調(diào)優(yōu)后的結(jié)果一般依靠GPT-4進行自動評估，例如使用GPT-4響應(yīng)的結(jié)果進行指令調(diào)優(yōu)后的模型傾向于生成更長的文本，同時GPT-4在候選響應(yīng)的順序上有偏差。24InfoQ架構(gòu)師特刊：天工開物AIGCOrca的研究人員主要采取了以下兩項重要創(chuàng)新舉措：1.

解釋性訓(xùn)練在Orca之前，Vicuna和Alpaca等模型只能從GPT-4等模型中采樣簡單的{用戶指令，回答}查詢來進行蒸餾，借此訓(xùn)練新模型模仿自己的老師：但在Orca這邊，研發(fā)思路發(fā)生了巨大轉(zhuǎn)變。研究人員沒有像之前那樣簡單提取查詢，而是引入了第三項約束條件，即系統(tǒng)指令。也就是說，除了用戶指令和模型答案之外，微軟研究人員又額外添加了一系列指令，旨在對學(xué)生模型的行為和思考過程進行建模，如下圖所示：這并不難理解：學(xué)生不僅需要模仿GPT-4的輸出質(zhì)量，還需要模仿老師的思維過程，從而掌握類似的推理能力。25熱點

|

Hot2.

通過中間教學(xué)實現(xiàn)漸進式學(xué)習(xí)截至目前，大多數(shù)開源模型只使用一對{學(xué)生，教師}素材。但在Orca卻有兩個老師。首先自然是ChatGPT。作為第一位老師，它負責指導(dǎo)學(xué)生模型解決那些不太復(fù)雜的查詢。之后再經(jīng)由GPT-4提供更復(fù)雜的查詢指引，讓學(xué)生根據(jù)之前掌握的知識做進一步學(xué)習(xí)。這個過程跟人類的學(xué)習(xí)方式非常相似。我們在學(xué)習(xí)乘除法之前，先得掌握加減法的訣竅，循序漸進突破一道道難關(guān)。而且與單純使用GPT-4的訓(xùn)練方法比較，漸進式學(xué)習(xí)的效果確實更勝一籌。結(jié)束語目前越來越大、耗能越來越高的發(fā)展模式是否將很快走向終點，還有待驗證，但如今每周幾乎都會出現(xiàn)突破現(xiàn)有游戲規(guī)則和技術(shù)邊界的新成果，大家都在效率方面做了很多努力。從Orca憑借一點小技巧就能碾壓眾多開源模型來看，我們對于AI技術(shù)只能說還知之甚少。而作為已經(jīng)憑借ChatGPT在市場上占據(jù)絕對優(yōu)勢的王者，微軟率先出手，再將開源模型升級到新的維度。開源模型或?qū)㈤_啟屬于自己的新時代。參考鏈接/@ignacio.de.gregorio.noblejas/orca-microsoft-7c78ca03c80326InfoQ架構(gòu)師特刊：天工開物AIGCAIGC領(lǐng)域最大收購：Databricks花費13億美元買下只有15名研發(fā)的小公司！作者

Tina核子可樂智能湖倉開發(fā)商Databricks正著手以13億美元收購生成式AI初創(chuàng)公司MosaicML，希望幫助自家客戶在數(shù)據(jù)之上構(gòu)建和部署AI模型。值得注意的是，Databricks本身也是一家初創(chuàng)公司，成立于2013年，通過多輪融資籌得36億美元。此次的收購成本當中，包含挽留MosaicML員工的相應(yīng)支出。大語言模型（LLM）正在AI領(lǐng)域掀起新一波浪潮，它能夠理解查詢、分析多個數(shù)據(jù)源并用自然語言給出回應(yīng)和答案，甚至能夠輸出編程語言。當然，這些模型也可能產(chǎn)生錯誤或虛構(gòu)的答案，而且需要大量GPU資源才能運行。MosaicML的主要業(yè)務(wù)就是幫助客戶在小規(guī)模系統(tǒng)上運行模型，并使用自己的數(shù)據(jù)和非公開數(shù)據(jù)對模型進行訓(xùn)練和微調(diào)。27熱點

|

HotDatabricks公司CEO

Ali

Ghodsi表示，“每個組織都應(yīng)該從AI革命當中受益，并更好地控制數(shù)據(jù)的使用方式?！苯衲?月，Databricks公布了其更新之后的開源Dolly大語言模型，標志著公司的AI設(shè)施已可用于商業(yè)應(yīng)用，且無需大量GPU資源或者昂貴的API。這款聊天機器人能夠響應(yīng)客戶查詢，根據(jù)Databricks智能湖倉內(nèi)的數(shù)據(jù)給出答案。MosaicML的來歷MosaicML則創(chuàng)立于2021年，聯(lián)合創(chuàng)始人分別為擔任CEO的Naveen

Rao（前英特爾副總裁兼AI產(chǎn)品事業(yè)部總經(jīng)理）和CTO

Hanling

Tang（前英特爾AI實驗室高級總監(jiān)），員工僅62人，其中研究人員（researchers）約為15名，“與Brain或DeepMind的龐大研究人員隊伍相比，我們規(guī)模很小”。MosaicML公司目前只公開披露過一輪融資，為6400萬美元，其開源大語言模型基于MPT-7B架構(gòu)，即擁有70億參數(shù)且上下文窗口為6.4萬token。NaveenRao與Hanlin

TangMPT-7B和最近發(fā)布的MPT-30B目前下載量已經(jīng)超過330萬次。MPT-30B要比MPT-7B更加強大，且性能已經(jīng)超越初版GPT-3。MosaicML表示，MPT-30B的大小是精心選擇的結(jié)果，能夠輕松部署在單個GPU上——可以在16位精度對應(yīng)1塊A100-80

GB，也可以在8位精度對應(yīng)1塊A100-40

GB。MosaicML公司指出，其他類似的大語言模型（例如Falcon-40B）往往擁有更多參數(shù)，因此無法在單個數(shù)據(jù)中心GPU上提供服務(wù)。而一旦需要的GPU超過2個，28InfoQ架構(gòu)師特刊：天工開物AIGC就會增加推理系統(tǒng)的最低實現(xiàn)成本。MosaicML還特別提到MPT-30B在編程方面表現(xiàn)優(yōu)異，“這歸功于包括大量代碼的預(yù)訓(xùn)練數(shù)據(jù)。我們希望這種文本和編程功能的結(jié)合使MPT-30B模型成為社區(qū)的流行選擇?！盡osaicML是一家美國公司，在舊金山、紐約、帕洛阿爾托和圣迭戈設(shè)有辦事處。其客戶則包括AI2（艾倫AI研究所）、Generally

Intelligence、Hippocratic

AI、Replit和ScatterLabs。Databricks表示，MosaicML的技術(shù)將為客戶提供一種簡單快速的方式，能夠在保留對自身數(shù)據(jù)的控制、安全保護和所有權(quán)的前提下，享受到成本低廉的語言模型服務(wù)。29熱點

|

Hot與標準方案相比，MosaicML的優(yōu)化成果將模型訓(xùn)練速度提升了2到7倍，而且能夠線性擴展。該公司聲稱，其數(shù)十億參數(shù)的模型在幾小時內(nèi)即可完成訓(xùn)練，遠低于一般模型長達數(shù)天的訓(xùn)練周期。Naveen

Rao解釋道，“我們之所以創(chuàng)辦MosaicML，就是希望解決困難的工程和研究問題，幫助每個人更輕松地進行大規(guī)模訓(xùn)練。隨著近期掀起的生成式AI浪潮，這項工作也成為關(guān)注的焦點。我們將與Databricks一道，推動天平向著更有利于大多數(shù)人的方向傾斜——我們是志同道合的伙伴，同樣肩負讓研究人員轉(zhuǎn)型為企業(yè)家的使命?！笔召徱庥螢椋扛鶕?jù)Naveen

Rao的說法，MosaicML一直致力于降低生成式AI的使用成本，從數(shù)千萬美元降至數(shù)十萬美元。生物制藥服務(wù)公司Syneos

Health的首席信息和數(shù)字官Larry

Pickett表示，目前根據(jù)專業(yè)健康數(shù)據(jù)訓(xùn)練模型的成本估計為100萬至200萬美元。分析師表示，這類“特定領(lǐng)域”模型對公司來說可能比ChatGPT更有用，因為它們擁有更多的行業(yè)術(shù)語和專業(yè)知識。但Pickett預(yù)計，Syneos

Health通過使用較小的預(yù)訓(xùn)練模型，“而不是在OpenAI擁有的整個數(shù)據(jù)集之上構(gòu)建”，花費會大大減少。他說，其中一些模型已經(jīng)在開源庫中可用，例如機器學(xué)習(xí)初創(chuàng)公司HuggingFace提供的庫?！安⒉皇敲總€人、每個應(yīng)用程序都需要GPT-4，”Krishna說，他指的是OpenAI的大型語言模型。他說，大型語言模型正在針對非常具體的應(yīng)用進行微調(diào)，“到那時，它就會變得非常小，可以嵌入到任何手機中?！钡獶atabricks收購MosaicML的目的卻仍然讓很多人感到迷惑，Hacker

News上不少網(wǎng)友一致認為Databricks是在炒作，表示通過新聞稿看不明白Databricks要將LLM整合來做什么。雖然現(xiàn)在Databricks稱公司的主要技術(shù)方向為Lakehouse，但實際上它是由ApacheSpark創(chuàng)建者創(chuàng)立，因此有人認為其護城河和核心價值主張是云中的Apache

Spark，主要是用Spark來處理大規(guī)模集群上的數(shù)據(jù)，其中包括機器學(xué)習(xí)訓(xùn)練和推理管道，在這種情況下，Databricks整合LLM的價值主張是不夠明確的。甚至還有人認為，Databricks不過是在30InfoQ架構(gòu)師特刊：天工開物AIGC借當前大模型熱度進行炒作，MosaicML遲早會被注銷掉。另外不得不提的是，Databricks本身成立也僅十年，去年公布年收入剛超過10億美元。Mosaic上一輪融資的估值為1.36億美元，無論是以股權(quán)還是現(xiàn)金收購，13億美元的交易價格對Mosaic來說都是一個巨大的飛躍。該交易預(yù)計將在第二季度期間完成（截至7月31日）。在

交

易

完

成

后

，

整

個

MosaicML

團

隊

預(yù)

計

都

將

加

入

Databricks

。

隨

時

間

推

移

，MosaicML的平臺將得到支持、擴展和集成。根據(jù)Databricks的說法，客戶將獲得一套統(tǒng)一平臺，可以在該平臺之上構(gòu)建、擁有和保護自己的生成式AI模型，并使用自有數(shù)據(jù)做進一步模型訓(xùn)練。擬議的這項收購案須滿足成交慣例，包括遵循相關(guān)監(jiān)管許可。目前可能還有其他生成式AI初創(chuàng)公司在與Databricks的競爭對手們洽談收購方案。參考鏈接/blog/mpt-30b/mosaicml?lang=en/articles/databricks-strikes-1-3-billion-deal-for-generative-ai-startup-mo-saicml-fdcefc06/item?id=36478734https://www.latent.space/p/mosaic-mpt-7b#detai31專題訪談

|

Interview實訪用人單位：Prompt工程師真是低門檻“香餑餑”？作者

王一鵬15-50k的月薪，另外還有年終獎和其他福利，你所要做的，就是研究、分析、設(shè)計在用漢語或英語做輸入的情況下，更準確地描述業(yè)務(wù)想要做的事情，聽起來是不是很難以置信？然而這就是真實出現(xiàn)在BOSS直聘上的招聘啟事，其崗位名稱叫做“Prompt工程師”或“Prompt

Engineer”，于2023年上半年在國內(nèi)快速興起，目前已有30家左右的公司在各大平臺公開招聘該崗位。在國外，Prompt

Engineer的熱度似乎更高，不僅崗位數(shù)量更多，而且年薪最高達到了七位數(shù)，在全球經(jīng)濟皆不景氣的當下，顯得獨樹一幟?？墒?，由供需主導(dǎo)的人才市場，似乎不太可能出現(xiàn)“頭腦發(fā)熱”癥狀。在經(jīng)過一系32InfoQ架構(gòu)師特刊：天工開物AIGC列研究調(diào)查，并與相關(guān)招聘單位、企業(yè)高管進行深度訪談后，我們發(fā)現(xiàn)，以為“Prompt工程師”的入行門檻低，只是一種錯覺。當前企業(yè)招聘的“Prompt工程師”崗位，實際上不但對應(yīng)聘者的要求很高，而且極度務(wù)實。換句話說，如果你真的成功轉(zhuǎn)型成了一名全職Prompt工程師，那么15k-50k的月薪，不但不浮夸，而且恰如其分?！澳Щ谩钡谋澈笫歉唛T檻與極度務(wù)實Prompt工程師的主要工作，是通過帶參或不帶參的自然語言輸入，對預(yù)訓(xùn)練大語言模型進行操作，并對輸出結(jié)果進行調(diào)優(yōu)。可以說，Prompt工程師就是企業(yè)或組織，為了將大模型的能力帶入生產(chǎn)環(huán)境，而特別創(chuàng)造的崗位職能。這一崗位的興起，與大模型技術(shù)本身的成熟直接相關(guān)。創(chuàng)客貼是國內(nèi)頭部的平面設(shè)計在線平臺，目前正在招聘Prompt工程師，其崗位職責和技能要求如下：職責：1.

基于語言模型，設(shè)計、開發(fā)和完善各種應(yīng)用程序的AI生成文本提示。2.

監(jiān)控和分析提示性能，確定改進的領(lǐng)域。3.

負責用于訓(xùn)練垂直領(lǐng)域模型的數(shù)據(jù)收集方案。4.

優(yōu)化AI提示生成過程，參與提示詞工具開發(fā)。5.

協(xié)助內(nèi)容和產(chǎn)品團隊了解提示工程。要求和技能：1.

熟悉開源和閉源語言模型。2.

熟練生成高質(zhì)量提示詞的工程技術(shù)。3.

具備優(yōu)秀的需求理解能力和拆解復(fù)雜任務(wù)的能力。4.

具備一定的計算機知識，如編程語言，機器學(xué)習(xí)。5.

具備中英文寫作能力，有出色的口頭和書面溝通能力。6.

有良好的工作習(xí)慣，善于歸納和記錄工作內(nèi)容。7.

能夠有效與跨職能團隊合作。創(chuàng)客貼CTO李晉松這樣描述招聘原因：“大模型能力的成熟，就像突然之間，我們手中擁有了一架強大的機器。但機器上的按鈕很多，且沒有說明書，需要一個同學(xué)來探33專題訪談

|

Interview索、歸納、總結(jié)其使用方法?！碑斎?，這里只是針對Prompt工程師的招聘需求而談的，要對大模型的輸出結(jié)果進行微調(diào)，方法并不只有Prompt一種，其完整的概括應(yīng)該是：1.

全部微調(diào)：使用新的數(shù)據(jù)集對整個模型進行微調(diào)，包括預(yù)訓(xùn)練的部分和新加的任務(wù)特定層。這種方法通常需要大量的數(shù)據(jù)和計算資源，并且需要更長的訓(xùn)練時間，但能夠獲得最好的性能。2.

部分微調(diào)：只對特定的層或幾個層進行微調(diào)，通常是模型的最后幾層或添加的任務(wù)特定層。這種方法通常需要較少的數(shù)據(jù)和計算資源，訓(xùn)練時間也較短，但性能可能不如全局微調(diào)。3.

凍結(jié)部分層：將預(yù)訓(xùn)練模型的前幾層（如BERT的前若干層）凍結(jié)，只對后面的層進行微調(diào)。這種方法可以減少微調(diào)的參數(shù)量和計算量，但可能會影響性能。4.

動態(tài)掩碼微調(diào)：對于需要進行序列標注任務(wù)的預(yù)訓(xùn)練模型，可以使用動態(tài)掩碼微調(diào)的方法，即只對標注序列的位置進行微調(diào)，對其他位置的參數(shù)進行凍結(jié)。這種方法可以減少微調(diào)的參數(shù)量，提高計算效率。5.

半監(jiān)督微調(diào)：使用少量的標注數(shù)據(jù)和大量的無標注數(shù)據(jù)對模型進行微調(diào)，以提高性能。這種方法需要使用半監(jiān)督學(xué)習(xí)的技術(shù)，如自監(jiān)督學(xué)習(xí)或基于對抗學(xué)習(xí)的方法。6.

Prompt工程：更偏向應(yīng)用與業(yè)務(wù)，通過修改輸入給大模型的提示詞，調(diào)優(yōu)輸出結(jié)果。但前面五種，都需要一定的操作成本，且一般由算法工程師或所謂AIGC工程師來完成，最后一種是在解決大模型從生產(chǎn)到應(yīng)用的“最后一公里”問題，目前是必備的，當下一般由算法工程師或其他技術(shù)角色兼任，或是企業(yè)招聘專人負責。大眾對Prompt工程師一職印象的分裂，也多半來源于此：從表面看來，Prompt工程師是所有IT行業(yè)的工程師角色里，唯一寫自然語言的工種，且所負責的事項，也無非是把一項任務(wù)表述得更清楚，似乎任何語言表達能力不錯的人都可以做到。事實真是如此嗎？李晉松向InfoQ舉了一個形象的例子：如果有人手動搭建了一個復(fù)雜的藝術(shù)模型，你能否通過提示詞的猜測和微調(diào)，在AIGC工具里100%還原該作品？無疑相當困難。34InfoQ架構(gòu)師特刊：天工開物AIGC這就是Prompt工程師入門的第一個難點：自然語言先天的模糊性。自然語言為了承載文明，兼顧社會價值、歷史價值、文化價值……其表意通常是模糊的、泛化的，“詞義消岐”常年來就是NLP領(lǐng)域的一個固定科目。而已經(jīng)習(xí)慣了自然語言表述邏輯的我們，要使用自然語言做精確的工程性描述，也比較困難。第二個難點是任何一個場景都有大量的專用術(shù)語，普通人用白話很難精確代換。比如在平面設(shè)計行業(yè)，你至少需要知道倫布朗光、徑向、層次等級、Ascender、Descender、互補色……才能較為精確的描述需求，修改Prompt。這導(dǎo)致所謂的Prompt工程師至少應(yīng)該成為某個領(lǐng)域的業(yè)務(wù)專家。針對以上兩個難點的考察，李晉松在采訪中提到，目前招聘企業(yè)都非常務(wù)實，基本上需要面試者實機演示Prompt輸入和輸出結(jié)果，并對微調(diào)過程進行考察。InfoQ同時也采訪了珠海太乙人工智能技術(shù)合伙人&項目總監(jiān)、極客時間21天AIGC行動營講師尹會生，他從另一個角度聊到這個問題：“IT領(lǐng)域大部分崗位的入門難度是逐漸上升的。比如運維工程師，早期是研發(fā)工程師兼職轉(zhuǎn)任，熟悉資源、環(huán)境就好了，慢慢地，運維工程師要開始會編程語言、腳本語言，比如Shell、Python，門檻開始升高。到了今天，運維工程師的門檻已經(jīng)相當高，需要了解容器、監(jiān)控技術(shù)等。所以相對來說，現(xiàn)在的Prompt工程師入門門檻，可能是歷史最低值，是入行的好時機?！眱蓚€角度相結(jié)合，我們或許可以得出一個復(fù)合結(jié)論：Prompt工程師并非一個“麻瓜”可以隨便上手的工作，且未來可能越來越難。尹會生同時談到另外一個思考：當下的Prompt工程師最好來自于技術(shù)行業(yè)，是某一領(lǐng)域的技術(shù)人員。因為Prompt工程師很可能是AI技術(shù)專家身旁的“副駕”或合作者，與之協(xié)作的都是資深技術(shù)人員。如果Prompt工程師本身不懂技術(shù)，那么也就無法順暢協(xié)作。Prompt工程師還應(yīng)該與時俱進，根據(jù)InfoQ寫作社區(qū)的一位算法工程師小伙伴汀的分享：Prompt工程師目前也要關(guān)注和解決與大模型相關(guān)的風(fēng)險和安全問題，因此需要了解對

抗

性

Prompt

的

理

念

和

方

法

，

與

此

類

似

的

新

Prompt

思

想

還

包

括

Active-Prompt

、GraphPrompts、MultimodalCoTPrompting等，其背后是大量的學(xué)術(shù)論文支撐。35專題訪談

|

Interview圖Active-Prompt示意圖此外，站在企業(yè)的角度，所有受訪嘉賓一致同意，Prompt工程師的一大價值，應(yīng)該是能歸納總結(jié)Prompt的相關(guān)經(jīng)驗、實踐、思路，把項目做成產(chǎn)品、平臺和能力，賦能企業(yè)。而針對大部分企業(yè)的普通工程師而言，這算作是一項進階能力，明顯更為合理。于是，當我們將以上所有要求匯總，得出的崗位畫像是這樣的：Prompt工程師最好是一個AI領(lǐng)域研發(fā)出身，有充足的Prompt實踐經(jīng)驗和理論知識，十分了解公司業(yè)務(wù)和所在行業(yè)、能持續(xù)學(xué)習(xí)大模型相關(guān)前沿技術(shù)，并將其沉淀為團隊能力乃至平臺、產(chǎn)品的復(fù)合型人才。根據(jù)極客邦科技雙數(shù)研究院在2021年對數(shù)字化轉(zhuǎn)型進程中的“業(yè)務(wù)架構(gòu)師”的研究表明，既懂技術(shù)又懂業(yè)務(wù)并能將二者合二為一的人，往往是行業(yè)內(nèi)最稀缺的人才。崗位變遷：注定流行，但難說長青這一崗位的發(fā)展前景，也是廣大開發(fā)者所關(guān)注的問題——甚至比工作難度大、面試通過率低，更令人擔心。道理很簡單，“Prompt工程師”的發(fā)展存在一個悖論：AI的發(fā)展，本質(zhì)上是以勞動力替代為目標的，也就是將越來越多的工作交給機器，以達成企業(yè)降本提效的訴求。而Prompt工程師本身是大模型技術(shù)在某一發(fā)展階段的特定36InfoQ架構(gòu)師特刊：天工開物AIGC產(chǎn)物，因受交互方式限制，所以不得不專人專崗，理論上也是AI的替代目標之一。況且對于企業(yè)而言，先裁撤數(shù)名業(yè)務(wù)人員，再引入數(shù)名Prompt工程師，考慮到薪資水平的差異，人力成本未必會降低。最近技術(shù)圈的新聞似乎也在印證這一點：6月13日，阿里云機器學(xué)習(xí)PAI團隊在InfoQ寫作社區(qū)發(fā)文稱，推出自研Prompt美化器BeautifulPrompt，服務(wù)Stable

Diffusion。其原理是當用戶輸入了一個極其簡單的Prompt，該工具可以將其擴寫成一個經(jīng)過語言模型優(yōu)化過的、細節(jié)描述詳細的Prompt，再吐給StableDiffusion。BeautifulPrompt整體架構(gòu)雖然工具效果還未受到行業(yè)內(nèi)的廣泛檢驗，但可以看出，圍繞“Prompt工程師”開展的優(yōu)化動作早就已經(jīng)開始了。隨著類似工具的不斷完善，行業(yè)專有大模型的不斷推出，“Prompt工程師”未來可能會變成一個純粹的“藍領(lǐng)”崗位。當然這并不意味著這一崗位的壽命已經(jīng)進入倒計時，“開始優(yōu)化”和“優(yōu)化成功”，到底還是兩個概念。一旦技術(shù)的發(fā)展對市場產(chǎn)生了結(jié)構(gòu)性影響，那么相關(guān)人力崗位的迭代往往是漫長的。以“云計算工程師”為例，該職位伴隨著云計算的崛起而出現(xiàn)，高光時期曾登上人37專題訪談

|

Interview社部新興崗位名單。盡管云計算產(chǎn)業(yè)秉持著“云服務(wù)應(yīng)該像自來水一樣，讓客戶對基礎(chǔ)設(shè)施完全無感”的理念，十數(shù)年間持續(xù)優(yōu)化產(chǎn)品體驗?？稍诮袢盏恼衅钙脚_，我們依然能見到“云計算工程師”的招聘啟事。另外一個例證來自“數(shù)據(jù)分析師”。讓大數(shù)據(jù)的能力普惠各行各業(yè)，讓只有數(shù)據(jù)科學(xué)家才能使用的產(chǎn)品退出舞臺，多年來都是眾多大數(shù)據(jù)從業(yè)者努力的方向。但經(jīng)過了二十年的大數(shù)據(jù)基建和產(chǎn)品研發(fā)，“數(shù)據(jù)分析師”仍然是一個龐大的從業(yè)群體。李晉松和尹會生兩位專家都贊同“Prompt工程師”會成為AI行業(yè)接下來一段時間的常見崗位，相關(guān)熱度會越來越高。未來，會不會有新技術(shù)代替人類優(yōu)化提示詞，人類與AI大模型的交互方式會不會發(fā)生改變，還是個未知數(shù)。李晉松提到：“技術(shù)發(fā)展的每一個階段，都有特定的崗位設(shè)計。早期人們甚至需要打字員，現(xiàn)在則不需要。AIGC現(xiàn)階段的主要交互方式就是Prompt，企業(yè)應(yīng)該大膽地開始招聘，不要因為未來某一天的變化而放棄當下的發(fā)展機遇?！眱晌粚＜彝瑫r默契地指出，即便未來大模型不再需要人工調(diào)優(yōu)Prompt，也只是該崗位的消亡，并不代表對應(yīng)的工程師會失業(yè)。李晉松作為實際的企業(yè)招聘者，對此已有規(guī)劃和安排：“我們更傾向于選擇一些在AI技術(shù)、產(chǎn)品維度有一定知識儲備的同學(xué)，假設(shè)真的有一天，技術(shù)把Prompt工程師這一崗位取締了，他還可以轉(zhuǎn)型成為AI產(chǎn)品經(jīng)理或AI研發(fā)工程師?！币鼤鷦t簡潔地告訴InfoQ：“我認為，真正取代碳基生物的，永遠是另一個碳基生物?！币灰D(zhuǎn)行做Prompt工程師？關(guān)于“要不要轉(zhuǎn)行做Prompt工程師”這一問題，尹會生的回答是：“我舉雙手雙腳贊成”，他說：“當下是入行最好的時間，后面的門檻會越來越高。而且未來被淘汰的人，一定是拒絕了解、學(xué)習(xí)使用AI這種先進工具的人?！蔽ㄒ灰⒁獾氖牵斚滦袠I(yè)還屬于懵懂期，各家企業(yè)基本都對Prompt工程師的績效設(shè)定、量化考核沒有太明確、成型的想法。這就導(dǎo)致一旦企業(yè)增長放緩，高層考慮降低人力成本，說不清自身價值的Prompt工程師就可能會被優(yōu)先裁撤。38InfoQ架構(gòu)師特刊：天工開物AIGC所以積累Prompt實踐經(jīng)驗，優(yōu)先謀求內(nèi)部轉(zhuǎn)崗或兼任嘗試，可能是更穩(wěn)妥的選擇。當然，如果對自身的能力有信心，和用人單位也充分對齊了期望、達成了共識，快人一步，全職轉(zhuǎn)型Prompt工程師，也未嘗不可。尚在迷霧中的新興崗位“Prompt工程師”，正在一步步走向臺前。本文受訪嘉賓1.

李晉松，創(chuàng)客貼CTO，互聯(lián)網(wǎng)創(chuàng)業(yè)者和資深技術(shù)專家，創(chuàng)業(yè)經(jīng)歷有老虎地圖、拉勾網(wǎng)，曾任職搜狗、360

AI研究院、核桃編程、作業(yè)幫、創(chuàng)客貼等歷任資深技術(shù)專家、技術(shù)總監(jiān)、技術(shù)負責人、副總經(jīng)理等職務(wù)。2.

尹會生，珠海太乙人工智能技術(shù)合伙人&項目總監(jiān)，前游戲公司技術(shù)總監(jiān)，前新浪網(wǎng)技術(shù)經(jīng)理。已經(jīng)在極客時間開設(shè)了兩門視頻課程《零基礎(chǔ)學(xué)Python》《Linux實戰(zhàn)技能100講》，一門專欄課程《Python自動化辦公實戰(zhàn)課》，一個行動營《21天AIGC行動營》，累計學(xué)習(xí)人數(shù)達到18萬余人。文中關(guān)于Prompt工程未來技術(shù)趨勢的參考：Prompt工程師指南[高階篇]：對抗性Prompting、主動prompt、ReAct、GraphPrompts、MultimodalCoTPrompting等_人工智能_汀丶人工智能_InfoQ寫作社區(qū)作者：汀，一名算法工程師，主要在自然語言處理，強化學(xué)習(xí)以及機器學(xué)習(xí)領(lǐng)域耕深推理。歡迎大家關(guān)注id汀丶人工智能一起AI學(xué)習(xí)。39專題訪談

|

Interview神器還是垃圾？那些用AIGC編程的人，實踐得怎么樣了作者

褚杏娟“大部分腳本，它寫的都能運行，而且比我寫的還要好?！边@是劉立在小試ChatGPT之后的感受?，F(xiàn)在，網(wǎng)上已經(jīng)不乏對以ChatGPT為代表的代碼生成工具的稱贊，還有大量五花八門的使用教程。程序員是好奇心比較強的那批人，也愿意去先吃螃蟹。2020年GPT-3發(fā)布后，他們開始摸索用大模型或AI來輔助編程。GPT-3在當時雖被認為是“巔峰之作”，但還不能與人對話，并未引起全民高潮。對于絕大部分程序員來說，2021年發(fā)布的Copilot可能是用大模型輔助編程的啟蒙。Copilot由GPT-3修改后的生產(chǎn)版本OpenAI

Codex提供支持、接受了一系列公共GitHub儲存40InfoQ架構(gòu)師特刊：天工開物AIGC庫和其他公開可用原始碼訓(xùn)練的輔助編程工具。Copilot迅速引起了開發(fā)者們的注意，并得到了很多程序員的認可?！俺绦騿T比較喜歡的一種工作方式是，我講清楚需求是什么，你能直接給我回答?！盬asmEdge創(chuàng)始人、核心開發(fā)者MichaelYuan說道。當時的Copilot做到了這一點，只要給出比較準確的描述，它就可以自動生成一段代碼，使用起來很方便。“在此之前的產(chǎn)品，大家更多視為玩具，很有意思但不會真正使用，更不會真正花錢。Copilot做到了讓我們付費使用?！盡ichael表示，這對一直將GitHub視為免費工具的團隊來說，選擇付費并不是容易的事。但在當時，Michael公司內(nèi)部的開發(fā)者對Copilot態(tài)度是兩個極端：一部分程序員非常喜歡它，甚至到了離不開的程度，而另一部分程序員認為它非常“腦殘”，甚至看不起用它的程序員。這種態(tài)度分化，可能至今仍然存在。AIGC為程序員帶來了什么？就像Copilot創(chuàng)建者之一Alex

Graveley說的，“代碼推理具有明確的線性，而AI模型比較適應(yīng)這種一件事做下去、前一件事對后一件事產(chǎn)生影響的應(yīng)用場景?！睆腉PT-3發(fā)布至今，大模型在生成代碼上表現(xiàn)得比生成自然語言要先進一些，因為代碼只有是或不是、不容亂說。到了GPT-3.5，大模型的編程能力和邏輯能力有了非常大的提高，不僅可以生成代碼、添加注釋，還可以跟程序員對話，進一步解釋這段代碼。而經(jīng)過兩年的驗證，GitHub證明了AIGC工具在寫代碼和Review代碼這兩個場景的可用性。寫代碼，實習(xí)生水平？“我從剛開始的天天用它生成代碼，到現(xiàn)在摸清楚了，基本上不用?！苯o出描述、生成相應(yīng)的代碼，看似很酷炫的功能，但現(xiàn)在開發(fā)者還不能完全依賴這些AI工具生成的代碼。以ChatGPT為例，ChatGPT給出的很多答案其實谷歌+StackOverflow就可以查到，但是很多新手不會用這套組合，ChatGPT只是降低了這個門檻，給出了各種質(zhì)量參差不齊41專題訪談

|

Interview的答案。ChatGPT通常很難一次就給到正確的代碼，需要開發(fā)者反復(fù)調(diào)教。另外，有開發(fā)者評價ChatGPT生成的代碼很難實際使用，越深層的東西越?jīng)]用?！吧晕⑦M階一點的代碼，生成得又慢又難用，不調(diào)整根本用不了?！蹦线_科他州立大學(xué)生物信息學(xué)家Xijin

Ge曾建議：把AI當作暑期實習(xí)生，一些開發(fā)者也認為其更很適合新手或者作為輔助工具。不過，還是有開發(fā)者表示，雖然是復(fù)制粘貼的水平，但能理解代碼已經(jīng)很不錯了。在Michael看來，代碼產(chǎn)生問題的可能性是最低的，因為生成的代碼可以立刻用起來進行檢測。很多人吐槽ChatGPT總會先給錯誤代碼，再讓它檢查一遍后就會給出正確答案，這是因為答案的給出是一個概率事件，它只是給出了其中一個答案。要提高正確率、不讓它“胡說八道”就要給更詳細、準確的提示詞，讓它能夠更好地反饋出所知道的內(nèi)容。“泛泛的提問，初次會有驚艷的感覺，但問多了會有錯覺：不過如此，那是因為不會提問?！眲⒘⒁脖硎??！爱斈愀嬖V它回答要有事實根據(jù)后，它的準確率就會提高很多。”這種需求也催生了“Prompt工程師”這一崗位的大熱，他們通過自然語言對預(yù)訓(xùn)練大語言模型進行操作，并對輸出結(jié)果