Mistral AI推出全新審覈API挑戰OpenAI：處理11種語言中的有害內容

鞭牛士報道，11月8日消息，據外電報道，法國人工智能初創公司Mistral AI週四推出了一種新的內容審覈 API ，這是其與 OpenAI 和其他人工智能領導者競爭的最新舉措，同時解決了人們對人工智能安全和內容過濾日益增長的擔憂。

新的審覈服務由 Mistral 的Ministral 8B 模型的微調版本提供支持，旨在檢測九個不同類別中的潛在有害內容，包括性內容、仇恨言論、暴力、危險活動和個人身份信息。該 API 提供原始文本和對話內容分析功能。

Mistral 團隊在發佈會上表示：安全性在使 AI 發揮作用方面發揮着關鍵作用。在 Mistral AI，我們認爲系統級護欄對於保護下游部署至關重要。

此次發佈正值人工智能行業的關鍵時刻，因爲各公司面臨着越來越大的壓力，需要對其技術實施更強有力的保護措施。就在上個月，Mistral 與其他主要人工智能公司一起簽署了英國人工智能安全峰會協議，承諾負責任地開發人工智能。

Mistral 自己的Le Chat 平臺已開始使用該審覈 API ，該 API 支持 11 種語言，包括阿拉伯語、中文、英語、法語、德語、意大利語、日語、韓語、葡萄牙語、俄語和西班牙語。這種多語言能力使 Mistral 比一些審覈工具主要關注英語內容的競爭對手更具優勢。

該公司表示：在過去的幾個月裡，我們看到整個行業和研究界對新的基於 LLM 的審覈系統的熱情日益高漲，這有助於使審覈在各個應用程序中更具可擴展性和穩健性。

此次發佈是 Mistral 最近與微軟 Azure、高通和SAP達成一系列高調合作之後的又一舉措，這些合作將這家年輕公司定位爲企業 AI 市場中日益重要的參與者。

上個月，SAP 宣佈將在其基礎設施上託管 Mistral 的模型（包括 Mistral Large 2），爲客戶提供符合歐洲法規的安全 AI 解決方案。

Mistral 的方法尤其引人注目，因爲它同時關注邊緣計算和全面的安全功能。雖然 OpenAI 和 Anthropic 等公司主要專注於基於雲的解決方案，但 Mistral 同時支持設備 AI 和內容審覈的策略解決了人們對數據隱私、延遲和合規性日益增長的擔憂。這對受到嚴格數據保護法規約束的歐洲公司來說可能特別有吸引力。

該公司的技術方法也顯示出超越其時代的先進性。通過訓練其審覈模型來理解對話上下文，而不僅僅是分析孤立的文本，Mistral 創建了一個系統，可以捕捉到可能通過更基本的過濾器的微妙有害內容。

審覈 API可通過 Mistral 的雲平臺立即使用，價格根據使用情況而定。該公司表示，將繼續提高系統的準確性，並根據客戶反饋和不斷髮展的安全要求擴展其功能。

Mistral 的舉動表明了人工智能格局的變化速度之快。就在一年前，這家總部位於巴黎的初創公司還不存在。現在，它正在幫助塑造企業對人工智能安全的看法。在一個由美國科技巨頭主導的領域，Mistral 對隱私和安全的歐洲視角可能會成爲其最大的優勢。