0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

揭秘聊天機器人的“大腦”-大語言模型

NVIDIA英偉達 ? 來源:NVIDIA英偉達 ? 2024-04-17 10:01 ? 次閱讀

如果說 AI 正處于改變歷史的“iPhone 時刻”,那么聊天機器人就是其首批熱門應用之一。

聊天機器人的誕生離不開大語言模型,這是一種基于大規(guī)模數(shù)據(jù)集進行預訓練的深度學習算法,能夠識別、總結、翻譯、預測和生成文本及其他形式的內(nèi)容。這類模型可以在由 NVIDIA GeForce 和 RTX GPU 提供支持的 PC 和工作站上本地運行。

大語言模型擅長總結大量文本,通過數(shù)據(jù)分類和挖掘來獲取見解,以及按照用戶指定的風格、語氣或形式生成新文本。它們可以促進以各種語言進行的交流,甚至包括人類語言之外的非常規(guī)“語言”,例如計算機代碼或蛋白質(zhì)和基因序列。

首代大語言模型只能處理文本,但后續(xù)迭代針對其他類型的數(shù)據(jù)進行了訓練。這些多模態(tài)大語言模型可以識別和生成圖像、音頻、視頻和其他內(nèi)容形式。

像 ChatGPT 這樣的聊天機器人是首批將大語言模型帶給消費者的技術應用之一,它們提供了人們熟悉的界面,可以用自然語言提示詞對話并作出回復。此后,大語言模型用于幫助開發(fā)者編寫代碼,以及協(xié)助科學家推進藥物研發(fā)和疫苗研制。

然而,很多 AI 模型對算力的需求也不容小覷。將各類先進優(yōu)化技術和算法(例如量化)與專為 AI 打造的 RTX GPU 結合,可為大語言模型“剪枝”,以使其可運行于 PC 本地,而無需連接互聯(lián)網(wǎng)。Mistral(為 Chat with RTX 提供支持的大語言模型之一)等新型輕量化大語言模型的異軍突起,降低了對算力和存儲空間的需求。

為何說大語言模型很重要?

大語言模型的適用性很寬,可用于各個行業(yè)和工作流。借助這種多功能性及其本身的高速性能,大語言模型能夠為幾乎所有基于語言的任務帶來性能和效率提升。

9156d6cc-fbdd-11ee-a297-92fbcf53809c.jpg

運行在云端 NVIDIA GPU 上的 DeepL

通過 AI 提供精準的翻譯服務。

由于通過 AI 和機器學習來確保輸出的準確性,因此像 DeepL 這樣的大語言模型被廣泛應用于語言翻譯。

醫(yī)學研究人員正在使用教科書和其他醫(yī)學數(shù)據(jù)訓練大語言模型,以期改善患者護理。零售商正在利用由大語言模型賦能的聊天機器人,為用戶提供出色的客戶支持體驗。金融分析師正在利用大語言模型記錄財報電話會議及其他重要會議,并總結會議內(nèi)容。而這些只是大語言模型應用方式的冰山一角。

Chat with RTX 等聊天機器人和基于大語言模型構建的寫作助手正在知識型工作的方方面面留下自己的身影,無論是內(nèi)容營銷、文案寫作還是法律相關的任務。編碼助手是大語言模型首批支持的應用之一,預示著由 AI 輔助開發(fā)軟件的未來。目前,ChatDev 為代表的項目,就是將大語言模型和 AI 智能體(可自主幫助回答問題或執(zhí)行任務的智能機器人)結合起來,構建了由 AI 驅(qū)動的,可按需提供服務的虛擬軟件公司。用戶只需告訴系統(tǒng)需要何種應用,就可以看著系統(tǒng)開展工作了。

如同日常對話一般輕松

許多人第一次接觸生成式 AI 是通過 ChatGPT 等聊天機器人,這類機器人通過自然語言簡化了大語言模型的使用方式,用戶只需告訴模型需要做什么即可。

由大語言模型提供支持的聊天機器人可以幫助起草營銷文案,提供度假建議,撰寫客戶服務郵件,甚至創(chuàng)作原創(chuàng)詩歌。

大語言模型在圖像生成和多模態(tài)方面取得的進步,擴展了聊天機器人的應用領域,增加了分析和生成圖像的功能,同時保留了簡單易用的用戶體驗。用戶只需向機器人描述圖像或上傳照片并要求系統(tǒng)對其進行分析即可。除了聊天之外,還可以利用圖像做視覺輔助。

未來的技術進步將幫助大語言模型擴展在邏輯、推理、數(shù)學等方面的能力,賦予它們復雜的請求分解為更小子任務的能力。

AI 智能體方面也取得了進展,這類應用能夠接受復雜提示詞,將其分解為更小的提示詞,并自主與大語言模型和其他 AI 系統(tǒng)合作,以便完成提示詞交代的任務。ChatDev 是一種典型 AI 智能體,并不意味著智能體的僅能用于技術型任務。

例如,用戶可以要求個人 AI 旅行智能體為全家預訂出國度假游。該智能體可以將該任務分解為多個子任務,包括行程規(guī)劃、預訂旅游項目和住宿、創(chuàng)建裝箱單、尋找遛狗服務人員,然后按順序逐一獨立執(zhí)行。

借助 RAG 解鎖個人數(shù)據(jù)

雖然大語言模型和聊天機器人在通用場景下已經(jīng)非常強大,但如果能與個人用戶的數(shù)據(jù)結合使用,它們將變得更加實用。通過這種方式,它們可以幫助分析電子郵件以發(fā)現(xiàn)各種趨勢,梳理內(nèi)容繁復的用戶手冊以找到某個技術問題的解答,或綜合和分析多年累積的銀行和信用卡對賬單。

將特定數(shù)據(jù)集與大語言模型掛接,檢索增強生成(RAG)是最簡單有效的方法之一。

91844756-fbdd-11ee-a297-92fbcf53809c.jpg

PC 上的 RAG 示例。

RAG 可利用從外部來源獲取的事實資料來提高生成式 AI 模型的準確性和可靠性。通過將大語言模型與幾乎任意外部資源連接,用戶可通過 RAG 與數(shù)據(jù)倉庫“對話”,同時大語言模型也能借助 RAG 直接引用來源。用戶體驗相當簡便,只需為聊天機器人指明文件或目錄即可。

例如,在內(nèi)容策略最佳實踐、營銷手段以及對特定行業(yè)或客戶群體的基本見解等方面,標準的大語言模型具備相關常識。然而,如果通過 RAG 將其與用于產(chǎn)品發(fā)布的營銷素材連接起來,大語言模型將能夠分析內(nèi)容并幫助規(guī)劃量身定制的策略。

RAG 適用于任何大語言模型,只要應用本身支持 RAG 即可。NVIDIA Chat with RTX 是通過 RAG 將大語言模型連接到個人數(shù)據(jù)集的一個演示示例。它可本地運行于配備了 GeForce RTX GPU 或 NVIDIA RTX 專業(yè) GPU 的系統(tǒng)上。

體驗 Chat with RTX 的速度與私密性

Chat With RTX 是一款能在本地運行的個性化聊天機器人演示應用,不僅易于使用,還可免費下載。它基于 RAG 構建,且支持 TensorRT-LLM 和 RTX 加速 Chat With RTX 支持多個開源大語言模型,包括 Llama 2 和 Mistral。對 Google 的 Gemma 模型的支持將在后續(xù)更新中提供。

919a5da2-fbdd-11ee-a297-92fbcf53809c.jpg

Chat with RTX 可通過 RAG

將用戶與其個人數(shù)據(jù)連接起來。

用戶只需將文件放入一個文件夾,并為 Chat With RTX 指明該文件夾的位置,即可輕松將 PC 上的本地文件連接到受支持的大語言模型。之后,Chat With RTX 便可快速回答各類查詢,給出相關的回復。

Chat with RTX 運行在 GeForce RTX PC 和 NVIDIA RTX 工作站的 Windows 系統(tǒng)上,因此其速度很快,同時用戶的數(shù)據(jù)保存在本地。Chat with RTX 并不依賴基于云的服務,用戶可以在本地 PC 上處理敏感數(shù)據(jù),因此無需與第三方共享數(shù)據(jù)或連接互聯(lián)網(wǎng)。



審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 機器學習
    +關注

    關注

    66

    文章

    8333

    瀏覽量

    132241
  • GPU芯片
    +關注

    關注

    1

    文章

    303

    瀏覽量

    5764
  • 聊天機器人
    +關注

    關注

    0

    文章

    329

    瀏覽量

    12273
  • ChatGPT
    +關注

    關注

    29

    文章

    1537

    瀏覽量

    7302
  • 大模型
    +關注

    關注

    2

    文章

    2240

    瀏覽量

    2289

原文標題:解碼 AI:揭秘聊天機器人的“大腦” - 大語言模型

文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關推薦

    ChatGPT 與傳統(tǒng)聊天機器人的比較

    隨著人工智能技術的飛速發(fā)展,聊天機器人已經(jīng)成為我們?nèi)粘I钪胁豢苫蛉钡囊徊糠?。從簡單的客服助手到復雜的個人助理,這些虛擬助手正在逐漸改變我們與技術的互動方式。在眾多聊天機器人中,ChatGPT無疑是
    的頭像 發(fā)表于 10-25 16:16 ?275次閱讀

    Meta人工智能聊天機器人進軍新市場,挑戰(zhàn)ChatGPT

    Meta近日宣布,其人工智能聊天機器人將進軍21個新市場,與OpenAI的ChatGPT展開激烈競爭。
    的頭像 發(fā)表于 10-11 16:29 ?212次閱讀

    Snapchat聊天機器人集成谷歌Gemini技術

    Snap與谷歌云的戰(zhàn)略合作再升級,為Snapchat平臺注入了新的智能活力。雙方宣布,Snapchat的My AI聊天機器人將深度集成谷歌Gemini技術,這一創(chuàng)新舉措標志著Snapchat在人工智能應用領域的又一次飛躍。
    的頭像 發(fā)表于 09-25 14:51 ?222次閱讀

    Meta將推出音頻版聊天機器人

    Meta公司即將在年度Connect大會上揭曉一項創(chuàng)新舉措:推出音頻版聊天機器人。據(jù)可靠消息,Meta已與Judi Dench、Kristen Bell及John Cena等多位國際知名演員達成合作
    的頭像 發(fā)表于 09-24 15:18 ?379次閱讀

    Al大模型機器人

    金航標kinghelm薩科微slkor總經(jīng)理宋仕強介紹說,薩科微Al大模型機器人有哪些的優(yōu)勢?薩科微AI大模型機器人由清華大學畢業(yè)的天才少年N博士和王博士團隊開發(fā),與同行相比具有許多優(yōu)
    發(fā)表于 07-05 08:52

    Meta將推遲在歐洲推出人工智能聊天機器人

    近日,F(xiàn)acebook的母公司Meta Platforms Inc.宣布,將推遲其在歐洲推出的Meta AI聊天機器人計劃。這一決定源于歐洲監(jiān)管機構的要求,要求該公司暫停使用歐洲用戶的帖子來訓練其大型語言模型的計劃。
    的頭像 發(fā)表于 06-17 14:54 ?471次閱讀

    AI聊天機器人Grok向歐洲X平臺Premium會員開放

    社交平臺X的首席執(zhí)行官琳達·亞卡里諾宣布,全新研發(fā)的Grok人工智能聊天機器人正式向歐洲的X Premium會員提供服務。Grok是X平臺精心打造的一款AI聊天機器人,旨在提升歐洲會員的交流體驗。
    的頭像 發(fā)表于 05-17 09:38 ?321次閱讀

    Anthropic在歐洲推出Claude聊天機器人

    AI初創(chuàng)公司Anthropic在歐洲市場邁出了重要步伐,成功推出了Claude聊天機器人及其相應的訂閱計劃。此舉旨在進一步增加用戶數(shù)量和提升公司收入。Anthropic公司表示,其基礎軟件產(chǎn)品已經(jīng)在歐洲的金融、酒店等行業(yè)吸引了眾多關注。
    的頭像 發(fā)表于 05-15 09:36 ?313次閱讀

    Mistral AI發(fā)布旗艦大模型Mistral Large及聊天機器人Le Chat

    近日,歐洲人工智能領域的領軍企業(yè)Mistral AI發(fā)布了其旗艦大模型Mistral Large,并同步推出了首個聊天機器人產(chǎn)品Le Chat。這一重要進展標志著Mistral AI在人工智能技術的創(chuàng)新和應用方面取得了新的突破。
    的頭像 發(fā)表于 03-04 14:04 ?773次閱讀

    英偉達引領AI新潮流,推出“Chat with RTX”聊天機器人

    隨著人工智能技術的突飛猛進,英偉達(NVIDIA)再次展現(xiàn)了其技術領導地位,為Windows PC用戶帶來了一款革命性的本地聊天機器人應用程序——“Chat with RTX”。這一創(chuàng)新應用的推出,不僅標志著人工智能在日常生活中的進一步滲透,也預示著聊天機器人將邁向一個更
    的頭像 發(fā)表于 02-19 11:11 ?911次閱讀

    英偉達推出全新AI聊天機器人

    近日,英偉達(Nvidia)宣布推出其全新的AI聊天機器人——“Chat With RTX”。這款聊天機器人被視為英偉達版的ChatGPT,為用戶提供了一個全新的、本地化的AI交互體驗。
    的頭像 發(fā)表于 02-19 11:09 ?823次閱讀

    谷歌AI聊天機器人改名為Gemini

    谷歌(Google)近日宣布,旗下備受矚目的AI聊天機器人Bard正式更名為Gemini,并推出了一款功能更加強大的付費版本——Gemini Advanced。這一戰(zhàn)略調(diào)整旨在與微軟、OpenAI等科技巨頭在AI聊天機器人市場展開更為激烈的競爭。
    的頭像 發(fā)表于 02-18 11:28 ?1003次閱讀

    字節(jié)跳動推出AI聊天機器人Coze扣子

    近日,字節(jié)跳動正式推出了名為“Coze扣子”的AI聊天機器人開發(fā)平臺。自2月1日起,這一平臺已正式上線,為開發(fā)者和用戶提供了一個全新的交互體驗。
    的頭像 發(fā)表于 02-03 09:31 ?1662次閱讀

    如何用AI聊天機器人寫出萬字長文

    如何用AI聊天機器人寫出萬字長文
    的頭像 發(fā)表于 12-26 16:25 ?1007次閱讀

    “行空板+大模型”——基于ChatGLM的多角色交互式聊天機器人

    模型,結合了深度學習技術和大量中文語料的訓練成果。它在自然語言理解和生成方面展現(xiàn)了出色性能,為國內(nèi)的自然語言處理研究與應用提供了有力支持。 通過使用行空板和UGB喇叭,你可以制作一個有趣好玩的
    的頭像 發(fā)表于 12-08 14:11 ?566次閱讀