AIに実務をやらせていると、失敗のたびに決まりが増えます。同じことを繰り返させないためです。
私の場合、3か月で決まりが40近くになりました。そのうち、決まりどうしがぶつかるようになりました。片方を守るともう片方に違反する、という状態です。
そして先日、決まりを強く書きすぎたせいで、やってほしい作業が3つ実行されずに止まりました。
増築を繰り返した家
今回は家のたとえで通します。
住んでいて不便な箇所が出るたび、部屋を足していく家を思い浮かべてください。雨漏りしたので庇を付ける。寒いので壁を厚くする。物が増えたので納戸を足す。ひとつひとつは正しい判断です。
10年も続けると、廊下が細くなり、窓が塞がれ、台所へ行くのに遠回りが必要になります。どの増築も理由があったのに、全体としては住みにくい家になっている。
決まりが増えるというのは、これに近いことが起きます。
文字数を守ると、正確さを失う
最初に起きたのは、決まりどうしの引っ張り合いです。
私の決まりには、記事の文字数の上限がありました。長すぎると読まれないからです。もうひとつ、技術的な言い切りを避けるという決まりもありました。事実と違うことを断定して書いてしまった事故があったためです。
この2つが、正面からぶつかりました。
言い切りを避けようとすると、但し書きが要ります。「AはBです」を「環境によりますが、多くの場合AはBになります」に直すと、字数が伸びます。正確に書くほど、文字数の決まりに違反していく。
訂正のたびに超過が広がりました。32字、95字、110字と3回続けて超えています。直せば直すほど遠ざかっていく状態でした。
原因は単純で、どちらを優先するかを決めていなかったことです。決まりを1つずつ足していくとき、既にある決まりとの関係は考えていませんでした。
いまは順番を決めています。事実として正しいこと、法令、読みやすさ、文字数の順です。文字数は目安であって上限ではない、とも書き直しました。読みにくくなったときは、字数を削るのではなく、節を分けるか表にします。
位置を指定したら、表が真っ二つになった
次に起きたのは、私の指示そのものが壊れていた件です。
書類のある場所に見出しを足すよう指示しました。「表の直後に足すこと」と書いて、変更前の目印として1行を示しました。
ところが、その行は表の最後から2番目の行でした。指示どおり実行すると、表が途中で分断されます。
AIは実行せずに止まり、疑問として報告してきました。指定どおりにやると壊れます、と。
私が書類の実際の並びを確かめずに位置を指定したのが原因です。手元の記憶で「たしかこのあたり」と書いていました。
このときAIが指示に忠実だったら、表は割れていました。決まりのほうに「壊れると分かる指示は、壊さない側に倒して報告する」と書いてあったので止まった、という話です。
禁止を強くしたら、必要な作業が止まった
そして先日、これが起きました。
前に、指示していない場所にAIが書き込んでしまった事故がありました。同じことを防ごうと、決まりに禁止を書き足しました。ある親フォルダの下には手を出すな、という書き方です。
ところが、その親フォルダの下には2種類のものが入っていました。公開しているサイトの中身と、作業に使う書類です。触ってほしくないのは前者だけで、後者には書き込んでもらう必要がありました。
私は分けずに書きました。結果、必要な作業が3つ実行されずに止まりました。
AIの側は正しく動いています。触るなと書いてあり、同じ指示の中で触れと書いてある。矛盾しているので止めて報告した。そのとおりです。
面白いのは、この事故の原因が前の事故への対策だったことです。書き込みすぎたから禁止を強くした。強すぎて必要な作業まで止まった。増築で廊下を塞いだのと同じ形です。
いまは、禁止の範囲を分けて書いています。同じ親フォルダの下でも、書類の置き場所と公開フォルダは別のものとして扱う、と明記しました。
決まりを足すときに、いま確かめていること
3回とも、決まりを足した時点では正しい判断でした。問題は、足した後に何が起きるかを見ていなかったことです。
いま、決まりを足すときに3つ確かめています。
ひとつ。既にある決まりとぶつからないか。ぶつかるなら、どちらを優先するかを同時に決めます。順番を決めずに両方置くと、ぶつかった場面でAIが止まります。
ふたつ。禁止を書くとき、その範囲に必要な作業が入っていないか。「触るな」は範囲を広く取りがちで、広すぎると必要な作業を巻き込みます。
みっつ。決まりが増えたら、古いものを見直す。3か月で40近くになったとき、使われていないものと、他の決まりに吸収されたものがありました。足すだけでは増築と同じです。
決まりは減らせる
AIに実務をやらせる話では、決まりをどう書くかがよく語られます。私も最初はそう思っていました。
いま思っているのは、書き方より、増え方のほうが問題だということです。1つずつは正しく、全体としておかしくなる。増築の家と同じで、足した本人には見えません。
私はいまも決まりを足しています。この記事を書いている間にも1つ足しました。ただ、足すときに古いものを一度読み返すようにしています。
読み返すと、たいてい1つは消せます。
