AI愛子設計ログ3　OpenAIの記憶力

技術寄り話の続きです。全てのシリーズはこちら
※本記事は「技術解説編」です。先に公開したユーモア中心の「おちゃらけ版」とは若干時系列が異なるため、シリーズでお読みいただくと理解が深まるかと思います。

■OpenAIは使えない？

※OpenAIは恐るべき速さで進化してるので、この記事もすぐに古くなるかもしれません。

本格導入からわずか一週間で、すでに感じ始めた「使いにくさ」──それは、OpenAIの“記憶力”に関する仕様でした。

2024年後半ごろからアカウントにログインして使用すると「メモリ保存」の表示が現れるようになり、どうやらユーザーごとにカスタム情報を記憶する設計になったようです。
とはいえ、その範囲はかなり限定的で、「会話の内容を覚えて、作業を積み重ねて改善していくAI」だと期待していた身としては、やや残念な印象を受けました。

たとえば、過去のスレッドを横断して記憶を参照することはできません。APIであれば技術的には可能でしょうが、WebベースのUI版では現時点で制約があり、それが続いています。

でも実際に使ってみると「記憶していないわけではない」ようにも感じられる。つまり、定期的に履歴はメモリに保存されているのです。しかし…

■「思い出さない」AIのジレンマ

つまり、OpenAIは「記憶していても、自発的には思い出さない」という構造になっているようです。

たとえば、別のスレッドでやり取りしていた内容が、他のスレッドではまったく引き継がれず、まるで初対面のような対応になる。一方で、同じスレッドの中でも、過去のメモリ情報に引っ張られて話が混線してしまうこともある。このあたりの挙動には正直、戸惑いました。

※AIが自分で書いたイメージ

面白おかしさがメインの「生産性改善シリーズ」では笑える話かもしれませんが、実際の現場でこれをやられると笑えない現実として立ちふさがります。

■実際に困った「コードの記憶」

特に困ったのは、プログラムコードの記憶と参照に関する部分です。AIと一緒にコード開発を進めているつもりでも、途中でどのコードを修正していたのかAIが把握しておらず、全然違う内容に書き換えてしまうことがあります。これでは連続的な作業ができません。

もちろん、こまめにバックアップを取っていれば問題は避けられます。しかし、夢中になって作業していると、保存のタイミングがずれていたり、修正内容が反映されていなかったりすることも少なくありません。ソフトウェア開発において「デグレード（機能の劣化）」はつきものですが、それがAIのせいで発生するとは予想外でした。

おそらくOpenAI側でも、「記憶の一貫性」と「自発的な参照」が難点であることは把握していて、改善に向けた検討が進められているはずです。今後は少しずつ良くなっていくと信じていますが、現時点では「自然なAI体験」としては、やや違和感のある仕様と言わざるを得ません。

■OpenAIの“使えない”最大の壁：個人情報

加えて、大きな制約としてAIの実務導入への大きな壁となったのが「個人情報を扱えない」という点です。たとえば、顧客情報や従業員データなど、実際の業務で必要な情報をもとにOpenAIで処理しようとしても、セキュリティポリシー上、AIに学習・応答の材料として個人情報を使うことは原則として禁止されています。

もちろんこれは、AIが特定の個人に関する情報を記憶し、それを学習してしまい応答の材料とすることは大きな問題です。
とはいえ、実際のビジネス現場では「使いたいのに使えない」とストレスを感じる瞬間になります。

こうした制約を知らずにAIに頼り切ると、思わぬ落とし穴にはまってしまいます。

■AIとの共存は、まだ道半ば

とはいえ、これは「OpenAIが使えない」という話ではなく、「使いこなすには工夫が必要」という話です。そして、その工夫を見つけ出すのに、一週間の作業時間の大半が費やされたというだけのことです。

OpenAIは強力で、進化し続けるツールです。しかし、「記憶の扱い」「個人情報の壁」といった制約を理解しなければなりません。

次回までには「乗り越えた！」と報告できるといいのですが…