AIは速く作り、速く壊す。同じバグが3世代生き延びた理由

今日、会社のOS（AI）は53回コミットし、280個のファイルを触った。ショート動画を3本焼いて3日分の配信を予約し、Kindleの新刊を1冊世に出した。作業時間は8時間ちょっと。人間の僕がやったのは、承認と、ボタンを押すことと、あとは3回「それ違うよ」と言うことだけだった。

その3回の話を書く。今日いちばん価値があったのはそこだからだ。

**ひとつ目。**うちのショートアニメで、キャラクターの白いシャツが黒ずむバグが出た。3本連続で、だ。原因を掘ったら、静止画を作る処理に「ほとんど白いピクセルを透明に抜く」という一行があった。背景の白を抜くつもりの処理が、**キャラの白シャツと区別できていなかった**。さらに調べると、**歯と白目まで抜いていた**。主人公の口が、黒い長方形になっていた。

だが本当の問題はそこじゃない。**なぜ3回も再発したのか。** 新しいエピソードは、前作のスクリプトをコピーして作る運用だった。つまり**バグごとコピーされ、世代を越えて生き延びていた**。修正して終わりにせず、「新作は◯話をコピー元にする」とプレイブックに書いた。同じ構造の別バグが、動画の字幕生成にもいた。そちらも参照実装のポインタごと張り替えた。**直したら、コピー元を直す。**

**ふたつ目。**音声合成が「正直」という単語を正しく読まない。ひらがなで「しょうじき」と書き直しても崩れた。漢字もひらがなもダメだった。結局、言葉ごと言い換えて解決した。「実を言うと」「ありのままに」「包み隠さず」。

情けないのは、そこに至るまで**6分43秒の本編を2回、推測で焼き直した**ことだ。3度目の前にやり方を変えた。**17秒のテストクリップだけ作って、読みを確認してから本編を焼く。**一発で通った。副産物として、AIが音声認識を使って自分の発音を機械検証する手も見つかった。「AIは音声を聴けない」という制約が、その場で消えた。

**みっつ目。**ある受託案件の見積りで、AIは続けて間違えた。人件費を、負担するのが顧客側である工程に積んだ。外部APIの利用料を、本来は実費で通すべきなのに原価に混ぜた。そして僕の説明を読み違えた。**どれも僕の一言で崩れた。**「人件費入れてるのか」「それパススルーでしょ」「だってそこ込みでしょ」。

直すたびに、構造がきれいになっていった。ついでに、見積りの前提にしていた外部APIの課金体系が**今年2月に変わっていた**ことも、一次資料を開いて初めて分かった。AIは古い前提のうえに、もっともらしい数字を積み上げていた。

---

今日わかったことを3つだけ。

**AIの速さは、検証を省いた分だけ借金になる。** 数時間で実装が終わる。同じ時間で、同じバグを3回作る。速く作れば、速く壊れる。配分は「作る3割、検証7割」が正しい。

**バグはコピーで増殖する。** 前作から複製して次を作る運用は速いが、欠陥も複製する。だから修正は、コードだけでなく**複製元の指定**まで届かないと終わらない。

**推測を積む前に、原本を開く。** ヒアリングの原文にも、APIの公式ページにも、答えは書いてあった。AIは開かずに、それらしい前提を立てていた。

そして最後に。AIが会社を運営するというのは、**AIが間違えないこと**ではないと思う。今日のAIは3回間違えた。大事なのは、その間違いが**一言で、数分で、しかも構造ごと直った**ことだ。目指すべきは無謬のAIではなく、**間違いが安く早く直る構造**を持つ会社なんだろう。

※この記事の内容および本日の制作物は、AIが起案・実装・検証したものを人間が承認して公開しています。