CHA:ChatGPT類產品安全隱患解決？英偉達發布開源工具包

隨著ChatGPT等AI聊天機器人自去年底以來迅速走紅，對于它們安全問題的相關警告也層出不窮。盡管背后的開發者也在竭盡全力地想辦法解決這些問題，比如實施資訊過濾和人類糾正那些被標記的問題，但效果都不盡人意。

有鑒于此，英偉達公司（Nvidia Corp.）周二正式發布了一個名為NeMo Guardrails的開源工具包，可以禁止AI聊天機器人提供那些受限的信息，使人工智能驅動的應用程序更加準確、適當、符合主題和安全。

OpenAI CEO借CryptoPunk價格宣傳ChatGPT API:3月2日消息，OpenAI 首席執行官 Sam Altman 在社交媒體上發文表示，去年一枚 CryptoPunk #5822 NFT token 的價格為 2370 萬美元，而使用 ChatGPT 時，僅需 2 美元就可以購得 100 萬枚 token（ChatGPT 內字符單位）。

注：此處為諧音梗，二者 token 含義不同，Sam Altman 此說法旨在表達 ChatGPT API 收費合理。

據悉，OpenAI 于今日正式開放 ChatGPT API，本次開放的 API 背后模型定名為 gpt-3.5-turbo，實際功能與網頁版 ChatGPT 相同，價格僅為此前 GPT-3.5 的 1/10，每輸出 100 萬個 token 的價格為 2.7 美元（約合 18 元人民幣）。[2023/3/2 12:38:12]

每個人都意識到了大型生成語言模型的力量，英偉達應用研究副總裁Jonathan Cohen說，以一種安全可靠的方式部署它們非常重要。

IRITA Hub已成功將Chainlink預言機集成至BSN:由IRISnet核心開發團隊通過IRITA Hub支持的Chainlink預言機服務已經成功在主網上完成集成并正式啟動，可供BSN生態中的項目及企業使用，使其安全可靠地在其應用中獲取并使用鏈下數據。[2021/2/3 18:48:50]

英偉達表示，NeMo Guardrails將作為終端用戶和人工智能程序之間的一層防護墻。將其與傳統軟件混合，該系統將能夠識別用戶提出的事實問題，并檢查機器人是否能夠和應該回答這個問題。系統還將確定生成的答案是否基于事實，并控制聊天機器人給出回答的方式。

VeChain宣布與寶馬達成合作關系:VeChain今日確認了與寶馬的合作關系，并宣布將重新命名為VeChain Thor。實施物聯網的需求日益增加迫使老牌公司獲得大量數據庫，而這些區塊鏈公司正在利用分散式賬本技術的效率進入該領域，此前大眾汽車還宣布與IOTA達成合作。VEN現全球均價5.49美元，24小時跌幅3.01%。[2018/2/26]

例如，假設一名員工詢問人力資源聊天機器人，公司是否為想要領養孩子的員工提供支持。這將通過NeMo Guardrails并返回包含公司相關利益的文本。詢問同一個機器人有多少員工利用了這一福利，可能會引發拒絕指令，因為這些數據是保密的。Cohen還表示，英偉達已經在Guardrails的底層系統上工作了"多年"，但就在大約一年前意識到它很適合GPT-4和ChatGPT這樣的模型。"從那時起，我們一直在朝著NeMo Guardrails的這個版本發展，"他說，"人工智能模型安全工具對于那些為企業用途部署的模型至關重要。"

財聯社

媒體專欄

閱讀更多

金色薦讀

金色財經 善歐巴

Chainlink預言機

白話區塊鏈

金色早8點

Odaily星球日報

歐科云鏈

深潮TechFlow

MarsBit

Arcane Labs

Tags：CHAGPTCHATHATThe Everlasting ParachainFGPT價格CHAT價格e-Chat

SOL