近期，領先的客戶互動和營銷科技服務商極光宣布推出GPTBots平臺，該平臺支持一鍵接入多個主流大模型，同時支持開發者將LLM（大語言模型）與企業數據、服務能力無縫連接，建構企業自己的AI Bot服務，并開放注冊。

“人工智能是未來10年最大的生產力變革機會，每一個企業都要擁抱它，未來能不能用好AI，是一個非常核心的競爭力。”

極光CEO羅偉東認為，生成式AI正迎來爆炸式增長，其應用領域涉及Microsoft、微軟、Salesforce、Meta以及Adobe等知名企業。這為企業帶來了巨大的發展機遇，但同時也存在認知與技術鴻溝。

在他看來，許多企業使用GPT等技術時，往往僅限于生成文章或圖像，而未能充分利用其內部數據和知識。這導致了巨大的機會和潛在的利益損失。企業需要將GPT等技術整合到其業務流程中，以提高效率并創造新機會。

當前，國內大模型正蓬勃發展，無論是百度、阿里、字節等大廠都推出了自己的大模型。但在應用方面，生成式AI還存在幻覺問題，許多通用大語言模型缺乏垂域知識，導致無法解決復雜任務。

對于企業而言，應用AI模型涉及合規、數據、算力、工程和算法等多個環節，任一環節出現質量問題都會影響到應用場景的實施。

舉例來說，在醫療問答場景中，通常需要涉及患者的敏感個人信息，如醫保卡賬號、病歷記錄和藥物使用情況。如果AI應用系統出現數據調用錯誤，可能會對后續的診斷產生不良影響。在這種情況下，專門設計用于醫療場景的AI模型可以起到關鍵作用，它能夠標記潛在的隱私或關鍵病歷信息，并提醒后臺醫生或客服人員進行審核，這種功能將降低問診的成本，同時減少了潛在風險。

在羅偉東看來，這些問題可以通過創建自定義的AI BOT（或AI Agent）

來解決，結合企業內部數據和領域知識，并通過API集成到流程業務中。這種方法不僅適用于大型企業，即使沒有大量研發資源的小型公司也可以輕松應用。企業應積極探索如何利用這些技術，無論是否擁有大量數據。

他表示，正是看到了企業的需求，極光基于多年開發者服務積累，推出了GPTBots開發平臺。極光GPTBots平臺上，開發者只需要具備生成式AI和相關領域知識，就可以構建自己的AI Bot，并將其接入企業服務，其中包括開箱即用的LLMs、Plugins、長/短期記憶、知識庫和flow等功能，幫助企業量身定制AI Bot應用。

未來，生成式AI將成為企業提升效率和節省成本的工具。不過，羅偉東認為，在最大程度地利用生成式人工智能，企業間并非是縮小差距，反而會因為AI應用的落地拉大差距。

每一個革命性技術的誕生到落地應用，都需要一定的接受時間，同時也面臨用戶的隱私和數據安全，其次是算法的優化和模型的迭代。對于企業而言，需要深入研究如何最大程度將生成式AI技術與自身業務相結合，才避免被時代淘汰。

以下是采訪實錄（原文基礎上有刪改）：

Q：ChatGPT爆紅之后，許多企業高層都會有很大的焦慮感。您的感受是什么？

極光CEO羅偉東：我認為將其比作iPhone時刻一點也不夸張，我是連續創業者，我清晰地記得當年iPhone問世的那一刻，這兩個感受非常相似。不過，我也相信它還需要時間來實現各種應用的成熟，就像iPhone問世后，一年以后才出現應用市場，應用生態也是2、3年后才逐漸起來。

Q：極光發布了GPTBots，您是看到了什么機會？

極光CEO羅偉東：許多企業使用GPT等技術時，往往僅限于生成文章或圖像，而未能充分利用其內部數據和知識。這導致了巨大的機會和潛在的利益損失。企業需要將GPT等技術整合到其業務流程中，以提高效率并創造新機會。這可以通過創建自定義的AI BOT來實現，結合企業內部數據和領域知識，并通過API集成到流程業務中。

這種方法不僅適用于大型企業，即使沒有大量研發資源的小型公司也可以輕松應用。企業應積極探索如何利用這些技術，無論是否擁有大量數據。基于企業這樣的困擾，我們推出了GPTBots開發平臺。

Q：可以詳細說下 GPTBots 的插件功能嗎？

極光CEO羅偉東：首先，我們要了解什么是LLMs的插件：LLMs插件區別于傳統插件，它獨立、靈活、自由、功能強大，大語言模型插件的核心是Web API，因此大語言模型插件完全擁抱互聯網，同時，沒有開發語言“歧視”，無論開發者的語言棧是Python、Java、Go、PHP等，只要可以開發HTTP協議接口，遵循RESTful規則，就可以構建大語言模型插件。GPTBots插件融合了ChatGPT插件創建規范（通用的OpenAPI規范）和函數調用功能，讓開發者只需專注于自身功能接口開發，同時GPTBots也會自動兼容市面上主流已支持插件能力的 LLM。

舉個例子，考慮一個郵件服務的情況，如果有客戶想要從新加坡寄一封信到美國，他們可能會詢問該服務的費用。這個價格可能是不斷變化的，存儲在結構化的數據庫中在這種情況下，我們可以提供一個價格查詢插件，通過它可以調用并獲取這個動態數據。

開發者可以根據需求創建插件自定義，通常用于處理企業內部的結構化數據服務。例如，企業的 HR 部門可以開發一個插件，用于查詢員工的假期余額。

Q：企業目前要應用大模型存在哪些問題？ GPTBots是如何幫助企業解決這些問題的？

極光CEO羅偉東：企業要開發一個AI Bot，開發者需要具備一定的技術技巧和相關領域知識。從學術理論到商業產品，涉及到機器學習工具、編程語言、框架、前后端工程師、運維工程師等多個方面的專業知識。這對于企業來說是一個挑戰。

我們的平臺上，開發者只需要具備生成式AI和相關領域知識，就可以構建自己的AI Bot，并將其接入企業服務。我們提供了簡單、高效和安全的LLMOps平臺，其中包括開箱即用的LLMs、Plugins、長/短期記憶、知識庫和flow等功能，幫助開發者為其業務量身定制AI Bot應用。

Q：如何看待開源跟閉源大模型的關系？GPTBots 是否都會支持？

極光CEO羅偉東：開源在AI領域的發展確實非常強大，而且開源社區在不斷創新和迭代，迎頭趕上了一些領先的原生技術。未來，開源很可能成為主流，原因在于它滿足了不同規模的企業和需求。

對于中小型企業，他們可以使用OpenAI、百度或阿里的云端服務，在滿足其需求的同時還降低了技術關稅。而對于大型企業和政府部門，他們可能更傾向于使用私有化部署開源模型以確保數據隱私和安全。所以，GPTBots 也提供了支持和開源模型結合的私有化部署的解決方案，可以滿足不同規模和性質客戶的需求。

Q：大型企業普遍擔心的數據安全性問題，我們有什么辦法？

極光CEO羅偉東：對于企業擔心的安全問題，我們提供了一些解決方案。如果企業使用公有的模型，他們可以采取一些措施來保證數據的安全性，例如在傳輸時提取用戶的敏感信息。如果用戶在醫療問答中詢問有關個人身體癥狀的問題，企業可以對其中的敏感信息進行脫敏處理，如姓名和醫療卡號，再將脫敏后的數據提交給GPT模型。然后，GPT返回答案，并將答案中的敏感信息進行替換，以保護用戶的隱私。

另一個解決方案是在企業內部進行數據過濾，以確保敏感信息不被提交給模型。企業需要自行處理這一過程來規避風險。企業還可以選擇本地化部署開源模型，但這樣需要更高的成本，包括硬件和GPU。

Q：GPTBots的盈利模式是什么樣的？

極光CEO羅偉東：對于公用版本，我們采用包年訂閱的方式，并根據使用量和功能進行不同的定價。我們提供了標準的SAAS模式，這是我們之前一直在使用的模式。如果企業選擇本地化部署，我們提供私有化版本的定價以及相關的服務。私有化版本的價格通常會包括硬件和服務成本。

Q：您最后還有什么想分享的嗎？

極光CEO羅偉東：人工智能是未來10年最大的生產力變革機會，每一個企業都要擁抱它，未來能不能用好AI，是一個非常核心的競爭力。而AI-BOT開發平臺的出現，不僅為企業提供了應用實踐的機會，也為整個AI行業的發展帶來了新的動力。