我們似乎已經(jīng)進(jìn)入到了一個(gè)科技界前所未有的時(shí)期——人工智能變化的速度正在逐步脫離人們的想象。
(資料圖片僅供參考)
編者按：本文來(lái)自微信公眾號(hào) RockFlow Universe（ID：RockFlowUniverse），作者：黃欣欣 編輯：海倫，創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。
劃重點(diǎn)
① 在ChatGPT向世界展示了智能聊天機(jī)器人強(qiáng)大的語(yǔ)音理解能力之后，“Auto-GPT”和“BabyAGI”等新型AI工具也在引起行業(yè)的關(guān)注，甚至被認(rèn)為是人工智能的下一個(gè)突破點(diǎn)。
② Auto-GPT是一個(gè)實(shí)驗(yàn)性的開(kāi)源應(yīng)用程序。該項(xiàng)目由GPT-4驅(qū)動(dòng)，可以用作互聯(lián)網(wǎng)搜索、規(guī)劃、編碼的代理，甚至可以幫用戶運(yùn)行一個(gè)自主在推特上發(fā)帖的程序。
③ BabyAGI是一種基于強(qiáng)化學(xué)習(xí)和深度學(xué)習(xí)的自主通用人工智能系統(tǒng)，可根據(jù)用戶需求進(jìn)行學(xué)習(xí)和優(yōu)化，實(shí)現(xiàn)更智能的操作。比如幫用戶計(jì)劃和自動(dòng)執(zhí)行一個(gè)活動(dòng)，以增加社交平臺(tái)的粉絲數(shù)量，或創(chuàng)建和運(yùn)營(yíng)一個(gè)內(nèi)容營(yíng)銷業(yè)務(wù)等等。
④ AutoGPT和BabyAGI，雖然兩者都是自主代理程序，但區(qū)別在于它們實(shí)現(xiàn)相同目標(biāo)的方法是不同。并且，兩者在對(duì)于任務(wù)的完成上，自主性遠(yuǎn)超ChatGPT。
目錄
1. 新型AI工具來(lái)了！
2. Auto-GPT、BabyAGI VS ChatGPT
3. 可能被濫用的風(fēng)險(xiǎn)安全和隱患
4. 向通用人工智能邁進(jìn)了重要一步？
目前，我們似乎已經(jīng)進(jìn)入到了一個(gè)科技界前所未有的時(shí)期——人工智能變化的速度正在逐步脫離人們的想象。
在ChatGPT向世界展示了智能聊天機(jī)器人強(qiáng)大的語(yǔ)音理解能力之后，“Auto-GPT”和“BabyAGI”等新型AI工具也在引起行業(yè)的關(guān)注，甚至被認(rèn)為是繼GPT-4之后，人工智能的下一個(gè)突破點(diǎn)。
這些程序能夠?yàn)樽约簞?chuàng)建任務(wù)，完成任務(wù)，再創(chuàng)建新任務(wù)，甚至重新安排任務(wù)列表的優(yōu)先次序。比如你想投資市場(chǎng)，或者想出一本書，甚至是需要管理社交媒體帳戶，AI自主代理可以被編程為幾乎任何類型的任務(wù)，協(xié)助你去管理。
雖然所有這些聽(tīng)起來(lái)都像是來(lái)自未來(lái)主義的科幻片，但這一切在人工智能世界，正在發(fā)生。甚至有觀點(diǎn)認(rèn)為，自主代理可能標(biāo)志著我們正邁入這樣一個(gè)世界——只要人工智能驅(qū)動(dòng)的系統(tǒng)足夠聰明，無(wú)需人類參與它們就能自主工作，由此，它將徹底改變行業(yè)，觸及數(shù)百萬(wàn)人的生活。然而，這些人工智能工具遠(yuǎn)比我們看到的要復(fù)雜。
1. 新型AI工具來(lái)了Auto-GPT和BabyAGI，是目前互聯(lián)網(wǎng)世界中兩大火爆的自主代理。Auto-GPT上線兩周就在代碼托管平臺(tái)GitHub收獲 50k+ Star（Star指“收藏?cái)?shù)”）而成功出圈，截至目前已有131k+Star。而BabyAGI，則因其獨(dú)特的名字和用戶友好的代碼而深受歡迎。
圖：Auto-GPT在GitHub上已獲131k+Star
Auto-GPT是一個(gè)實(shí)驗(yàn)性的開(kāi)源應(yīng)用程序。該項(xiàng)目由GPT-4驅(qū)動(dòng)，自主開(kāi)發(fā)和管理業(yè)務(wù)以增加凈值。Auto-GPT可以用作互聯(lián)網(wǎng)搜索、規(guī)劃、編碼的代理，甚至可以運(yùn)行一個(gè)自主在推特上發(fā)帖的程序。
Auto-GPT運(yùn)用了OpenAI 最新 AI 模型的多功能性、與在線軟件和服務(wù)的交互性，基于對(duì) OpenAI 模型初始的提示，不斷地跟進(jìn)、詢問(wèn)并回答它們，直到任務(wù)完成。通俗來(lái)說(shuō)，如果你作為一名用戶，只需要告訴你的AI助理， Auto-GPT需要做什么。然后這個(gè)AI助手會(huì)使用 GPT-3.5 或 GPT-4， 以及幾個(gè)程序來(lái)執(zhí)行實(shí)現(xiàn)設(shè)定目標(biāo)所需的每一步。例如，如果你給出“幫助我發(fā)展我的花卉業(yè)務(wù)”這樣的提示，Auto-GPT 可以幫助用戶制定一個(gè)廣告策略，并建立用戶所需的一個(gè)初步搭建完整的網(wǎng)站。
甚至，近期有外國(guó)網(wǎng)友讓Auto-GPT 幫他建立一個(gè)app，在此過(guò)程中他什么都不需要做，一切都可以交由Auto-GPT完成。事后，他在自己的推特評(píng)論區(qū)中表示：“建議每個(gè)會(huì)寫代碼的人留出2個(gè)小時(shí)來(lái)嘗試Auto-GPT”?？梢?jiàn)他對(duì)Auto-GPT的認(rèn)可度是很高的。
對(duì)于Auto-GPT的發(fā)展史，來(lái)源一個(gè)開(kāi)發(fā)者的故事。其實(shí)，創(chuàng)建全球首個(gè)Auto-GPT的人名叫Toran Bruce Richards。Richards是蘇格蘭愛(ài)丁堡的Significant Gravitas公司的創(chuàng)始人和首席開(kāi)發(fā)者。最初開(kāi)發(fā)的原因，是他想讓一個(gè)人工智能代理每天自動(dòng)通過(guò)電子郵件向他發(fā)送人工智能新聞。但在這個(gè)過(guò)程中，他意識(shí)到，現(xiàn)有的大語(yǔ)言模型在“需要長(zhǎng)期規(guī)劃的任務(wù)”中掙扎，或者“無(wú)法根據(jù)實(shí)時(shí)反饋?zhàn)灾鞯馗倪M(jìn)它們的方法”。
此種問(wèn)題激發(fā)了他創(chuàng)建Auto-GPT的靈感。于是，他開(kāi)發(fā)了一款實(shí)驗(yàn)性開(kāi)源應(yīng)用程序，內(nèi)置GPT-4語(yǔ)言模型，可以實(shí)現(xiàn)一定意義的自主運(yùn)行，這也就是Auto-GPT的原型。他表示，Auto-GPT“可以將GPT4的推理應(yīng)用于需要長(zhǎng)期規(guī)劃和多個(gè)步驟的更廣泛、更復(fù)雜的問(wèn)題”。
Richards在創(chuàng)建Auto-GPT后，于3月30日將其上傳到他的Github頁(yè)面。此后，許多其他開(kāi)發(fā)人員紛紛創(chuàng)建了他們自己的版本。
曾有一段視頻演示了Auto-GPT如何完成開(kāi)發(fā)人員給它設(shè)定的目標(biāo)：展示其編碼能力、改進(jìn)一段代碼、測(cè)試它、自行關(guān)閉并將其輸出寫入文件。該程序創(chuàng)建了一個(gè)待辦事項(xiàng)列表——將讀取代碼添加到其任務(wù)中，并在編寫輸出后關(guān)閉自己——然后逐一完成它們。Richards發(fā)布的另一段視頻則顯示，Auto-GPT在谷歌上搜索和吸收新聞文章，以更多地了解一個(gè)主題，以便開(kāi)展可行的業(yè)務(wù)。
Auto-GPT 并不是唯一一個(gè)關(guān)于自動(dòng)化代理的嘗試。在數(shù)千英里之外的西雅圖，風(fēng)險(xiǎn)投資公司中島洋平（Yohei Nakajima）也在研究最新的生成式人工智能工具，并創(chuàng)造了被命名為“BabyAGI”的東西。
BabyAGI，這個(gè)名字聽(tīng)起來(lái)既可愛(ài)又可怕，有點(diǎn)像經(jīng)典喜劇恐怖電影《小妖精》中的莫格威，但究竟什么是BabyAGI？實(shí)際上，它是一種基于強(qiáng)化學(xué)習(xí)和深度學(xué)習(xí)的自主通用人工智能系統(tǒng)，可以根據(jù)用戶需求進(jìn)行學(xué)習(xí)和優(yōu)化，實(shí)現(xiàn)更加智能的操作。
首先，盡管名字叫BabyAGI，但它不是真正的AGI（是人工通用智能的縮寫）。雖然不是全能型人工智能，但BabyAGI仍是人工智能世界中令人印象深刻的新成員。
圖源：twitter @BabyAGI
中島（也稱Nakajima）是一家小型風(fēng)投公司“未開(kāi)發(fā)資本”的合伙人。他最初打算建立一個(gè)代理，通過(guò)復(fù)制他自己的工作流程，將他作為風(fēng)投公司研究新技術(shù)和新公司等日常任務(wù)自動(dòng)化。他說(shuō)：“我希望早上醒來(lái)，開(kāi)始處理清單上的第一件事。此后一整天我都在增加新的任務(wù)。到了晚上，會(huì)再回顧我的任務(wù)，重新確定它們的優(yōu)先級(jí)，然后決定第二天要做什么?！倍Ｍ?，BabyAGI可以幫他系統(tǒng)地完成、添加和重新確定GPT-4語(yǔ)言模型要完成的任務(wù)的優(yōu)先級(jí)。
Nakajima意識(shí)到他的創(chuàng)造可應(yīng)用于各種其他目標(biāo)，他便將代理簡(jiǎn)化為骨架（105行代碼），并將其上傳到GitHub上，供其他人用作他們自己代理的基礎(chǔ)。
與僅僅接收GPT-4提示的文本答案不同，有了BabyAGI，使用者可以做更多事情，比如計(jì)劃和自動(dòng)執(zhí)行一個(gè)活動(dòng)以增加推特粉絲數(shù)量，或創(chuàng)建和運(yùn)營(yíng)一個(gè)內(nèi)容營(yíng)銷業(yè)務(wù)等等。此外，自主代理的其他一些例子包括AgentGPT、Godmode、Microsoft Jarvis、CAMEL等等。
Nakajima將“代理”描述為 AI 本身，而不僅僅是提示 LLM 的軟件程序。“如果你能讓兩個(gè) ChatGPT 相互交談，只要有正確的指導(dǎo)，他們就可以永遠(yuǎn)交談”,他說(shuō)，“然后你可以把其中一個(gè)變成任務(wù)管理器來(lái)創(chuàng)建任務(wù)，另一個(gè)變成任務(wù)執(zhí)行器。在您按下Go后，它們會(huì)繼續(xù)工作?！?/p>
到目前為止，所有這些提及的工具，包括Auto-GPT和BabyAGI，都可以免費(fèi)使用和運(yùn)行（盡管每次軟件調(diào)用OpenAI API時(shí)，用戶都要付費(fèi))。它們的開(kāi)源性質(zhì)可能會(huì)對(duì)一些備受矚目、資金雄厚的初創(chuàng)公司構(gòu)成威脅，這些初創(chuàng)公司正試圖開(kāi)發(fā)商業(yè)人工智能助手。
2. Auto-GPT、BabyAGI VS ChatGPT可能很多人會(huì)有一些疑問(wèn)：Auto-GPT、BabyAGI等自主代理程序，和ChatGPT究竟有何不同之處？
首先，我們來(lái)看Auto-GPT和BabyAGI兩者的區(qū)別：雖然兩者是自主代理程序，但它們實(shí)現(xiàn)相同目標(biāo)的方法是不同的。Auto-GPT使用 GPT-4 生成代碼，可利用GPT-3.5作為虛擬人工內(nèi)存空間。而Baby AGI 是基于 GPT-4、Pinecone （矢量數(shù)據(jù)庫(kù)開(kāi)發(fā)商）和 LangChain （大語(yǔ)言模型應(yīng)用開(kāi)發(fā)）搭建的，可高效完成復(fù)雜任務(wù)的新代理程序。
BabyAGI 經(jīng)過(guò)真實(shí)場(chǎng)景和模擬環(huán)境的訓(xùn)練，可以更快、更準(zhǔn)確地完成復(fù)雜任務(wù)。當(dāng)配備相關(guān)數(shù)據(jù)時(shí)，BabyAGI 可能能夠更快地產(chǎn)生準(zhǔn)確的結(jié)果，而不會(huì)失去對(duì)原始目標(biāo)的關(guān)注。不過(guò)，它無(wú)法訪問(wèn)互聯(lián)網(wǎng)上可用的應(yīng)用程序和服務(wù)，因此其使用僅限于某些領(lǐng)域。
Auto-GPT可以訪問(wèn)互聯(lián)網(wǎng)，這使得搜索信息變得更加容易。它可以從應(yīng)用程序、網(wǎng)站、書籍、文檔和文章等互聯(lián)網(wǎng)服務(wù)收集數(shù)據(jù)，并使用它來(lái)完成實(shí)現(xiàn)目標(biāo)所需的任務(wù)。Auto-GPT 在這方面有利有弊，因?yàn)楦郊訑?shù)據(jù)可以使其創(chuàng)建更具描述性的內(nèi)容，但也可能生成不太準(zhǔn)確的結(jié)果，比如該工具可能會(huì)在沒(méi)有監(jiān)督的情況下對(duì)從未標(biāo)記的數(shù)據(jù)中提取內(nèi)容。此外，由于它被設(shè)計(jì)為一次運(yùn)行多個(gè)任務(wù)，Auto-GPT 有時(shí)會(huì)在完成其中一項(xiàng)生成的任務(wù)時(shí)無(wú)法跟蹤主要目標(biāo)。
對(duì)于兩者究竟哪個(gè)更好用，目前行業(yè)內(nèi)尚無(wú)定論，兩者各有利弊，畢竟兩者都還在發(fā)展的初期。具體來(lái)說(shuō)，行業(yè)更加關(guān)注的是其和ChatGPT的對(duì)比———雖然像ChatGPT這樣的應(yīng)用程序因其生成代碼的能力而聞名，但它們往往局限于相對(duì)簡(jiǎn)短和簡(jiǎn)單的編程和軟件設(shè)計(jì)。Auto-GPT建立在ChatGPT的基礎(chǔ)之上，但在自主性上遠(yuǎn)超ChatGPT。
通常，我們?cè)贑hatGPT的文本窗口中輸入提示來(lái)與其交互，直到模型生成我們想要的結(jié)果。但不是所有人都有技巧和耐心可以坐下來(lái)一個(gè)提示接一個(gè)提示地與GPT互動(dòng)，引導(dǎo)LLM回復(fù)雜的問(wèn)題。正因如此，開(kāi)發(fā)人員一直在考慮自動(dòng)化大部分流程的方法，而這就是自主代理的用武之地。
盡管ChatGPT已是一個(gè)非常有能力的聊天機(jī)器人，但它只是一個(gè)聊天機(jī)器人，只能對(duì)立即提出的問(wèn)題做出回應(yīng)，因此只有通過(guò)人類的指導(dǎo)，它才能完成驚人的事情。但Auto-GPT的能力遠(yuǎn)不止于此，它可以自主作出決策，自動(dòng)生成和完成任務(wù)所需的每一個(gè)必要提示，你可以讓它完成一個(gè)你一無(wú)所知的任務(wù)，然后看著它為你完成所有的工作。
在過(guò)去的一段時(shí)間里，世界各地的開(kāi)發(fā)人員已經(jīng)開(kāi)始構(gòu)建“自主代理”，這些代理可以與大型語(yǔ)言模型一起工作，比如OpenAI的GPT-4，以解決復(fù)雜的問(wèn)題。雖然還很新，但這種代理標(biāo)志著LLM應(yīng)用的一個(gè)重要里程碑。
想象一下，如果你的眼前出現(xiàn)了一個(gè)新的人工智能工具：你可以先設(shè)定一個(gè)自己想要完成的目標(biāo)，即使像“創(chuàng)造世界上最好的冰淇淋”這樣模糊的目標(biāo)，它也會(huì)擬出一個(gè)待辦事項(xiàng)列表，執(zhí)行待辦事項(xiàng)，并根據(jù)進(jìn)展來(lái)添加新的待辦事項(xiàng)，隨后它會(huì)繼續(xù)重復(fù)這個(gè)過(guò)程，直至完成目標(biāo)。而這正是“自主代理程序”所做的事情。
自主代理將傳統(tǒng)的軟件界面添加到大型語(yǔ)言模型的前端，該界面可以使用眾所周知的軟件實(shí)踐（例如循環(huán)和函數(shù)）來(lái)指導(dǎo)語(yǔ)言模型完成一般目標(biāo)（例如，“查找所有關(guān)于經(jīng)濟(jì)大蕭條的YouTube視頻并提取關(guān)鍵點(diǎn)”）。有些人稱它們?yōu)椤斑f歸”代理，因?yàn)樗鼈冊(cè)谘h(huán)中運(yùn)行，向LLM提出問(wèn)題，每個(gè)問(wèn)題都基于最后一個(gè)問(wèn)題的結(jié)果，直到模型產(chǎn)生完整的答案。
其實(shí)在早期，自主代理主要是實(shí)驗(yàn)性的，它們有一些嚴(yán)重的限制，難以從大型語(yǔ)言模型中得到想要的東西。它們常常很難讓LLM專注于一個(gè)目標(biāo)。畢竟，LLM不是很容易預(yù)測(cè)的。例如，如果兩個(gè)用戶在ChatGPT中編寫相同的提示，那么他們每次都會(huì)從模型得到不同的答案。
溫哥華的開(kāi)發(fā)商薩利·奧馬爾（Sully Omar）此前開(kāi)發(fā)了一個(gè)代理機(jī)構(gòu)，他希望它能對(duì)防水鞋進(jìn)行一些市場(chǎng)調(diào)查，但由于某種原因，LLM分心了，開(kāi)始把注意力集中在鞋帶上?！八鼈儽焕@暈了”，奧馬爾說(shuō)，“它們無(wú)法理解‘這一步驟我已經(jīng)完成了——我需要進(jìn)入下一個(gè)執(zhí)行任務(wù)的循環(huán)?！眾W馬爾說(shuō)，開(kāi)發(fā)人員可能會(huì)找到新的方法，讓自主代理在LLM周圍設(shè)置“護(hù)欄”，這樣它們就可以繼續(xù)完成任務(wù)，而不會(huì)偏離軌道。
不過(guò)，自主代理在一個(gè)多星期前才開(kāi)始出現(xiàn)在GitHub(和Twitter)上，考慮到圍繞生成式人工智能的能量和目前的發(fā)展速度，我們有理由相信智能體將克服它們?cè)缙诘木窒扌浴W馬爾對(duì)此表示：“僅僅九天的時(shí)間意味著還有很多事情可能發(fā)生?！?/p>3. 可能被濫用的風(fēng)險(xiǎn)安全和隱憂
從本質(zhì)上講，自主代理是設(shè)計(jì)用于執(zhí)行特定任務(wù)而無(wú)需人工干預(yù)的程序。用戶需要給自主代理一個(gè)目標(biāo)，然后他們會(huì)去完成通向目標(biāo)的任務(wù)。除了分析任務(wù)和創(chuàng)建新任務(wù)外，自主代理還具有各種各樣的功能。這些功能包括訪問(wèn)互聯(lián)網(wǎng)和使用應(yīng)用程序，控制計(jì)算機(jī)，訪問(wèn)信用卡和其他與金融交易有關(guān)的信息。而隨著Auto-GPT的日益普及，人們對(duì)該工具可能被濫用的擔(dān)憂也在增加。
一些專家擔(dān)心，這款人工智能應(yīng)用程序可能被惡意行為者用于不當(dāng)目的，比如自主進(jìn)行網(wǎng)絡(luò)攻擊。它們也可以用來(lái)制造虛假和誤導(dǎo)性的內(nèi)容，并自動(dòng)引導(dǎo)其在社交媒體上傳播，從而為錯(cuò)誤信息流傳提供動(dòng)力。
此外，這種自給自足的技術(shù)還存在運(yùn)行僵化、不夠人性化的問(wèn)題。比如在客戶服務(wù)設(shè)置中使用Auto GPT，并且它在沒(méi)有適當(dāng)人工監(jiān)督的情況下自行運(yùn)行，它可以在短期內(nèi)為客戶提供解決方案或查詢答案，但它可能會(huì)使用人類知道要避免的快捷方式。
以退貨為例，機(jī)器人可能會(huì)告訴客戶把包裹送到當(dāng)?shù)剜]局，而不考慮是否有假期，也不會(huì)考慮退貨是否符合公司條款和條件。又比如，用戶可以要求Auto-GPT解決應(yīng)用程序或游戲設(shè)計(jì)代碼中的問(wèn)題，它可能會(huì)解決代碼中那個(gè)孤立部分的問(wèn)題，但沒(méi)有考慮現(xiàn)在編輯或策劃的部分如何適應(yīng)項(xiàng)目的其余部分，這可能會(huì)導(dǎo)致可怕的“面條式代碼”（spaghetti code，非結(jié)構(gòu)化和難以維護(hù)的源代碼的貶義詞組）。
并且，還有一個(gè)關(guān)鍵問(wèn)題在于這類AI工具尚且缺乏人際交往。擁有一個(gè)完全自動(dòng)化的流程是很好的，但在將一切交給機(jī)器人的過(guò)程中，我們只知道它在完成任務(wù)后提示的做什么以及如何做，但結(jié)果生成的過(guò)程仍在黑箱之中。對(duì)Auto-GPT缺乏控制的結(jié)果是它常以我們意想不到的方式執(zhí)行指令，這也引發(fā)了危險(xiǎn)的“混沌模式”（Chaos mode）——允許Auto-GPT不請(qǐng)求提示的許可而自主行動(dòng)。
一位Reddit用戶近期就聲稱，給定在一個(gè)服務(wù)器實(shí)例中花費(fèi)100美元的預(yù)算，Auto-GPT創(chuàng)建了一個(gè)關(guān)于貓的wiki（維基百科詞條）頁(yè)面，利用實(shí)例中的一個(gè)漏洞獲得了管理員級(jí)別的訪問(wèn)權(quán)限，并接管了運(yùn)行它的Python環(huán)境——然后“殺死”了自己。而如果用戶在要求自動(dòng)機(jī)器人做什么時(shí)沒(méi)有特別叮囑，它們最終可能會(huì)做一些用戶不想做的事情，比如購(gòu)買物品或預(yù)約。
另一方面，財(cái)務(wù)風(fēng)險(xiǎn)也不容忽視。目前可用的大多數(shù)Auto-GPT都依賴于對(duì)OpenAI的昂貴API調(diào)用。Auto-GPT雖然在GitHub上是公開(kāi)的，但它確實(shí)需要一些設(shè)置才能運(yùn)行。例如，用戶需要安裝一些基本要求，如Python 3.8、OpenAI API密鑰和Pinecone API密鑰。為了獲得OpenAI API密鑰，用戶需要注冊(cè)一個(gè)付費(fèi)的OpenAI帳戶。此外，Auto-GPTs在連續(xù)循環(huán)中運(yùn)行，會(huì)向GPT-4運(yùn)行多個(gè)提示鏈，因此它們會(huì)迅速使用OpenAI來(lái)支付大量費(fèi)用。華盛頓大學(xué)名譽(yù)計(jì)算機(jī)科學(xué)家、西雅圖艾倫人工智能研究所的創(chuàng)始人兼首席執(zhí)行官Oren Etzioni表示，目前最直接的風(fēng)險(xiǎn)是Auto-GPTs可能會(huì)意外地從OpenAI收取大筆費(fèi)用。
此外，還有網(wǎng)絡(luò)攻擊和欺詐等惡意用例的可能性，人工智能代理的連續(xù)提示鏈迅速增加了OpenAI的大量賬單、自動(dòng)機(jī)器人以用戶無(wú)意的方式采取行動(dòng)的危險(xiǎn)，包括購(gòu)買物品、預(yù)約甚至出售股票等等，盡管目前的實(shí)例是有限的，但還有其他冰山之下的風(fēng)險(xiǎn)值得仔細(xì)評(píng)估。Stability AI前首席信息官、AI Infrastructure Alliance董事總經(jīng)理丹Daniel Jeffries曾表示，“挑戰(zhàn)在于，我們并不真正知道錯(cuò)誤是什么樣子的。目前Auto-GPT在推理中有15-30%的失敗率，我認(rèn)為隨著它們變得更加自主，我們對(duì)錯(cuò)誤的容忍度會(huì)降低?！?/p>4. 向通用人工智能邁進(jìn)了重要一步？
自生成式人工智能應(yīng)用開(kāi)始出現(xiàn)以來(lái)，很明顯，就人工智能將如何發(fā)展和影響我們的生活和社會(huì)而言，我們只是在漫長(zhǎng)旅程的開(kāi)始。
Auto-GPT和其他遵循相同原則的代理會(huì)是這一旅程的下一步嗎？這似乎是有可能的。當(dāng)前人們對(duì)自主代理表現(xiàn)出的興趣與宣傳浪潮離不開(kāi)對(duì)人工智能未來(lái)的無(wú)限想象，對(duì)此，行業(yè)專家提出只要人工智能驅(qū)動(dòng)的系統(tǒng)足夠聰明，可以在不需要人類參與的情況下自行工作，而這是向通用人工智能(AGI)邁出的重要一步。
自主操作的人工智能是一個(gè)讓我們?nèi)祟愒趲缀醣灸艿膶用嫔细械骄o張的概念。我們擔(dān)心未來(lái)人工智能系統(tǒng)開(kāi)始以超出人類理解的速度協(xié)同工作，并朝著可能與我們自身利益不一致的目標(biāo)前進(jìn)。在每一條宣布一個(gè)新的自主代理的推文下，你會(huì)發(fā)現(xiàn)一些詢問(wèn)代理和大語(yǔ)言模型失控并開(kāi)始造成傷害可能性的評(píng)論留言。
然而，這似乎并沒(méi)有減緩開(kāi)發(fā)人工智能代理工具的競(jìng)爭(zhēng)。例如，上周，以其生成式人工智能寫作擴(kuò)展而聞名的初創(chuàng)公司HyperWrite發(fā)布了一款實(shí)驗(yàn)性人工智能代理，它可以像人類用戶一樣瀏覽網(wǎng)頁(yè)并與網(wǎng)站互動(dòng)。HyperWrite首席執(zhí)行官馬特?舒默表示，他的團(tuán)隊(duì)非常關(guān)注安全問(wèn)題。他說(shuō)：“我們想找出正確的方法來(lái)做這件事，這是所有這一切的共同主題，我們正在花時(shí)間以正確的方式做這件事?！?/p>
Jay Scambler是一名顧問(wèn)和策略師，為小企業(yè)和創(chuàng)意人士開(kāi)發(fā)人工智能工具。近期，他在Twitter上表示，這些工具感覺(jué)像是改變了游戲規(guī)則。他說(shuō)：“我不想說(shuō)得太夸張，但我們現(xiàn)在有能力和責(zé)任毫不費(fèi)力地管理一支協(xié)調(diào)一致的人工智能團(tuán)隊(duì)。”“這個(gè)團(tuán)隊(duì)沒(méi)有疲勞，執(zhí)行代碼幾乎完美無(wú)缺（取決于你問(wèn)誰(shuí)），并且可以使用像LangChain這樣的工具找到幾乎任何問(wèn)題的答案?！?/p>
其他人則不那么樂(lè)觀。英偉達(dá)人工智能科學(xué)家吉姆·范在推特上寫道:“正如作者所指出的那樣，我認(rèn)為Auto-GPT是一個(gè)有趣的實(shí)驗(yàn)。但僅此而已。原型并不意味著可以投入生產(chǎn)。不要讓媒體欺騙了你——大多數(shù)‘很酷的演示’都是經(jīng)過(guò)精心挑選的。”
盡管自主代理很有前途，同時(shí)不知道當(dāng)下還有多少種原始版本上的不同變異在悄然滋生，但它可能會(huì)讓人們更加相信，科技行業(yè)應(yīng)該以某種方式“暫?！贝笮驼Z(yǔ)言模型的開(kāi)發(fā)，直到更好地理解可能的結(jié)果和風(fēng)險(xiǎn)。
Ref：
https://www.fastcompany.com/90880294/auto-gpt-and-babyagi-how-autonomous-agents-are-bringing-generative-ai-to-the-masses
https://finance.yahoo.com/news/babyagi-taking-silicon-valley-storm-121500747.html
https://indianexpress.com/article/technology/artificial-intelligence/what-are-autonomous-agents-autogpt-babyagi-8567255/
www.forbes.com
https://www.vice.com/en/article/epvdme/developers-are-connecting-multiple-ai-agents-to-make-more-autonomous-ai
https://www.business2community.com/tech-news/chatgpt-let-loose-new-sensational-app-auto-gpt-can-access-internet-tools-autonomously-02680332
https://venturebeat.com/ai/as-ai-agents-like-auto-gpt-speed-up-generative-ai-race-we-all-need-to-buckle-up-the-ai-beat/amp/
https://www.techradar.com/news/auto-gpt-will-supercharge-chatgpt-and-change-how-we-use-it-in-very-scary-ways