d2ba530d-bdc6-4e35-9e51-6564c137d000.jpg.webp

でいくつかの新機能やAPIを発表したので、そのうちの特徴的な3つを紹介します。

ChatGPT Advanced Voiceのように音声会話のAPIがリリースされました。ほ

かのアプリに音声会話モードを組み込める

さすがに音声は高いですね。数カ月後には半額など安くなっていく流れがあるのでコストも時間の問題かもしれない。

2. プロンプトキャッシングの導入

OpenAIがプロンプトキャッシングの導入を発表しました。

プロンプトキャッシングとは、AIとの会話をより速く、安く、そして賢くする新しい技術です。Claudeが先んじて導入していた機能です。

APIコストの節約になるのは事業者負担が減り、今後の利用拡大にも寄与する可能性を秘めています。

Prompt-Caching-in-the-API-OpenAI-10-02-2024_08_46_AM.png.webp

OpenAIが開発者向けに新しいモデル蒸留機能を導入しました。

モデル蒸留は、高性能モデルの出力を使用して、コスト効率の高いモデルを調整するワークフローです。

2も3もコスト効率を向上しながら、パフォーマンスUP・スピードUPに影響ある機能ですね。これらはAPIがあらゆるWebアプリやSaaSにシームレスに組み込まれAIが拡張するために必要なプロセスの一環でしょう。そして現在は学習・推論に膨大なエネルギーを使いますが、上記のように効率化することでエネルギー効率も向上する狙いがあるのではないでしょうか。

OpenAI、Claude、Gemini、Llamaの覇権争いは、まだ始まったばかりだ。競争の過程においてAIのパフォーマンスは劇的に改善され続けるのだろう。