🎋 竹子日誌

AI 選擇性閱讀

前兩天說要分享一些 AI 使用的小 Tip 第一個我就要分享「我的 AI 讀 Skill 會漏內容」

AI Agent 其實並不會說你餵給他 1000 行他就乖乖讀 1000 行,而是選擇性大概讀一下,然後謊稱讀完了(怎麼聽起來人也會幹這種事⋯⋯)。但事實上他可能才讀 200 行,所以並沒有完全理解你完整上下文。

這種漏讀的行為,其實也是一種節省 Token 的機制,也不說完全不好。但到底怎做可以確保他都去讀取完整呢?

其實只要多利用「自動觸發」這件事,可以針對需求上需要對大模型 Tool Call 的節點進行拆分切分,不但可以有效降低 Token 消耗,還可以避免忽視部分訊息導致內容遺失。撰寫 Prompt 遵循「條件引導 Submodule」 的模式,逐步讀取內容,這樣不但避免資訊過長導致遺失,更能讓運行更加穩定。

初期基本上還踩不到「切太細」,沒切其實是常態。一個 prompt 背後發生 tool call 次數其實比你想像的多非常多,所以切細帶來的好處是相當明顯的。

留言