はじめに
先日、言語モデルをClaude-3.5 SonnetからChatGPT-4oに切り替えたことで、長らく悩んでいたキャッシュフロー表示の改行問題はついに解決。
しかし、新たな問題が浮上しました。
1つ目は、XML方式からMarkdown方式への書き換え。
見出しや装飾の形式変更程度なので、こちらはそれほど大きな負担ではなかったのですが――本当に大変なのは、2つ目のプロンプト数の制限問題です。
1. 変わったのは見出し表記だけじゃない！XML → Markdownへの移行
1-1. なぜMarkdownへ？
miiboでChatGPT-4oを使う場合、Markdownでのプロンプトが推奨になるケースがあります。Claude-3.5 Sonnetとはフォーマットが異なるため、既存のXML形式を丸ごと書き換える必要がありました。
1-2. 見出し変更と軽微なレイアウト修正
幸いにも、XML→Markdownの移行は**“手直し”程度**で済んだため、そこまで大きな時間コストはかかりませんでした。
2. プロンプト数の制限問題が最大の壁
2-1. Claude-3.5 SonnetとChatGPT-4oで異なる制限
- Claude-3.5 Sonnet：最大3000文字
- ChatGPT-4o：最大2500文字
これだけ見ると「500」ほどの違いしかないように見えるかもしれませんが、実際の運用では大きな差につながります。なぜなら、既に3000文字ギリギリでプロンプトを作っていたのです。
2-2. 削るしかない！ でもどこを削れば…？
すでに組み上げていたプロンプトは、FPのライフプラン表作成に必要な要素や会話ステートを全て盛り込んだため、削る場所が簡単には見つからない状況。
- FP相談のバリエーションが豊富だからこそ、プロンプトが増えてしまう
- ヒアリング項目を減らせば機能性が落ちるリスクもある
このため、どこをどう削ってコンパクト化すべきか、一から構成を見直ししなければなりません。
3. 言語モデルを変えると、ほぼ一から作り直し！？
実感としては、「言語モデルを変更すると、プロンプト設計もほぼ最初から再構築が必要だ」と言わざるを得ません。
- 文体や回答傾向の違いで、同じプロンプトでも意図しない回答が出る
- プロンプト上限の違いで、要件を満たすためには要素の再取捨選択が必須
- フォーマット（XMLからMarkdownへ）も変わる
- 言語モデルの違いで、全く回答ニュアンスが変わる（人種変更みたい）
こうした影響から、**「もう一度やり直しか…」**と感じる場面が少なくありません。
4. 対策と見通し
4-1. 不要部分の洗い出し
- 優先度の低い質問や機能をリストアップし、思い切って削除
- プロンプトを減らしして、シナリオで対応する
4-2. さらに別のモデル検討？
ChatGPT-4oでも問題が解決しない場合、別のLLM（たとえばGPT-4標準版や他のClaudeバージョン）を試す選択肢もあります。
4-3. プロンプトの大幅変更
- プロンプトを生成AI（ChatGPT o1）に渡し、文字数を指定して、プロンプトを作り直してもらう
まとめ：一歩前進したけれど、また新たなハードル
- 改行問題はChatGPT-4oの導入で解消
- しかし、プロンプト数制限とフォーマット変更という新しい悩みが発生
言語モデルの特性を活かしながら、最適化したプロンプトを組む作業は地味に大変ですが、FP業務を効率化するための大きなチャレンジでもあります。
今回は試行錯誤中に、OpenAIから、ChatGPT O1がリリースされたので、早速使わせていただきました。
引き続き、試行錯誤を重ねて完成度を高めていく予定です。
次回予告：プロンプト削減の具体的手法を紹介
次回は、
- ChatGPT o1のプロンプト修正結果
をレポートしていく予定です。
「言語モデルの違いでここまで大変なの！？」と思うかもしれませんが、成功すればFP Chatbotが賢くなり、人のFP相談が効率化される未来がやってきます。ぜひ楽しみにしていてください。
SNSシェア＆ブックマーク大歓迎！
この記事がお役に立ったり、参考になったと思った方は、ぜひSNSでのシェアやブックマークをお願いします。問題解決のヒントや同じ境遇の仲間との交流が、新たなアイデアを生み出すかもしれません。
▼ChatGPT-4o導入で改行は解決！ しかし、プロンプト制限という新たな試練が待ち受けていました…。
