GPT-3.5 Turbo開放微調功能，GPT-4也將支持

日前OpenAI方面宣佈，GPT-3.5 Turbo已支持自定義微調，企業和開發者可以使用自己的數據，結合業務用例來構建專屬的ChatGPT。對此該公司表示，“自GPT-3.5 Turbo發佈以來，開發者和企業都要求能夠定製模型，爲用戶創造獨特且差異化的體驗。此次更新將使得開發者能夠定製更適合其用例的模型，並大規模運行這些定製模型”。

據OpenAI方面透露，經過早期測試表明，經過微調的GPT-3.5 Turbo可以在“某些狹窄任務”上達到或超過GPT-4的能力。同時該公司還表示，GPT-4的微調功能也將於今年秋季推出。

對此英偉達高級科學家Jim Fan表示，這是自插件應用商店以來，OpenAI方面發佈的最重大產品更新，“我期待着來自各行各業的新應用接二連三地出現”。

據悉，通過微調功能，企業和開發者可以顯著提升GPT-3.5 Turbo的性能，包括提高模型可控性、從而使其能夠精確地遵循指令，例如開發者可以要求其始終以給定的語言進行響應。或是提高模型一致地格式化響應的能力，開發者可以通過微調更可靠地將用戶提示轉換爲高質量的JSON代碼片段，以供自己的系統使用。以及磨練模型輸出的“感覺”，例如它的語氣，以便更好的與品牌形象相符。

此外，微調後的GPT-3.5 Turbo還可以在縮短提示的同時確保性能不會大幅改變，以加快API調用、並降低成本。據OpenAI方面透露，“早期測試人員通過對模型本身的指令進行微調，將提示詞大小減少了90%”。

目前微調通常分爲四步完成，分別爲準備數據、上傳文件、創建一個微調任務，以及使用一個微調模型。但需要注意的是，爲了在微調過程中確保安全性，OpenAI方面強調，所有微調數據都必須通過“審覈”API和GPT-4支持的審覈系統，以查看是否與其安全標準相沖突。同時OpenAI方面也表示，微調API的傳入和傳出數據完全歸客戶所有，他自己或任何其他機構都不能使用這些數據來訓練其他模型。

而在價格方面，微調費用主要分爲初始訓練費用和使用費用，其中初始訓練費用標準爲0.008 美元/1K Tokens，使用輸入費用標準爲0.012美元/1K Tokens，使用輸出費用標準則爲0.016美元/1K Tokens。舉例而言，如要對10萬Tokens的訓練文件進行微調、並訓練3個epochs，則預計成本爲2.40美元。

【本文圖片來自網絡】