小さな組織でAIをどう統治するか

小さな出版社では、役割同士の距離が近い。作品を選ぶ人が制作の進行も見守り、取引先への連絡をし、メタデータの表を読み直すこともある。そこにAIを使う仕組みを加えると、道具が一つ増えるだけではない。どの情報を読ませるか、何を許すか、どこで検査するか、誰が責任を負うかという判断も増える。

だからといって、小さな組織の中に小さな官庁をつくる必要はない。必要なのは、毎日守れる程度に軽く、仕事を守れる程度に具体的な枠組みである。

まず用途を記録する

大きな方針を書く前に、実際の用途を一件ずつ言葉にする。どの作業に使うのか。どの種類の情報を参照するのか。出力は候補、変換案、それとも判断の提案なのか。誰が読み直し、どこに記録するのか。

この一覧だけでも、危険の種類は分かれてくる。公開済みの文章から見出し案を作ることと、非公開の資料を要約することは同じではない。不整合を指摘することと、原稿ファイルを自動で置き換えることも違う。「AI全般」を論じるのではなく、対象と行為を特定したとき、統治は現場の言葉になる。

権限を必要最小限にする

仕組みに与えるアクセスは、作業に必要な範囲へ絞る。二つの版を比較するだけなら、読み取り専用で足りることが多い。下書きを準備する役割に公開権限は要らない。決められた一群を扱う作業に、保管庫全体を巡回する権限は要らない。

この分離は事故を小さくし、責任を明確にする。復旧もしやすい。各操作の対象が分かっていれば、一箇所の失敗を理由に、工房全体の成果を疑わずに済む。正しい部分を残し、影響した部分だけを戻せる。

人が必ず止まる場所を決める

すべてに同じ確認は必要ない。ファイルの有無のような検査は繰り返し実行できる。一方、意味の変更、出典や著者の表示、言語の変更、権利に関する判断、外部への公開には、明示的な人の承認が必要である。

最小限の枠組みは、問題が起きる前に停止点を決めておく。迷いが生じたときの状態も定める。保留にする、出典を求める、提案を別に保存する、担当者へ返す。良い停止は単に拒むのではない。有効な仕事を残し、次に進む道を示す。

編集者が読める記録を残す

技術者だけが読めるログでは、編集上の責任を支えられない。記録は簡単な問いに答えるべきだ。どの対象を、どの出典から、どの道具で、どの規則に従って扱い、誰が次の工程を認めたのか。

目的は一挙手一投足を監視することではない。疑問が生じたときに、判断を再構成できるようにすることである。そのため、記録は続けられるほど短く、比較できるほど安定し、一人の記憶に頼らないほど具体的でなければならない。

ずれから枠組みを直す

方針を一度書いて終わりにすると、現場の変化に遅れる。事故、事故になりかけた出来事、やり直しは、広すぎる権限、曖昧な指示、置き場所を誤った検査を教えてくれる。定期的な見直しでは、出典を一つ制限する、承認を一つ追加する、不要になった工程を一つ外す、といった小さな変更でよい。

Maison BeaulieuにおけるPublishing OSは、出典、状態、検査の関係を研究する内部R&Dプロトタイプである。商業的に検証済みの製品ではなく、外部での成果を示すものでもない。この立場を明記すること自体が統治の一部である。

小さな組織のAI統治は、五つの習慣にまとめられる。用途を記録する。アクセスを絞る。停止点を決める。読める履歴を残す。ずれを見て規則を直す。枠組みは大きくなくてよい。ただし、仕組みにできること、してはならないこと、規則だけでは決められないときに誰が決めるかは、はっきりしていなければならない。

adrienbeaulieu.com