生成AIの利用ルールを1枚に書く。小さな組織で決めておく6つの項目

生成AIを仕事で使い始めると、どこかで「ルールを決めないと」という話になります。ただ、長い規程を作っても、使う人が毎回読み返すことはまずありません。BenriWorksは、AIに記事やコードを書かせるときの執筆ルールを、1つのファイルにまとめています。100行あまりで、そのうち原則と禁止事項は20行ほどです。AIは、作業を始めるときに必ずこのファイルを読み込みます。この1枚にどんな項目を入れているかと、項目を足していったやり方を紹介します。

1枚に入れている6つの項目

BenriWorksのルールは、AIに記事を書かせるために作ったもので、会社の規程の雛形ではありません。それでも、項目の立て方は、小さな組織が生成AIを使うときにもそのまま使えるはずです。

AIの役割を最初に書く

6つのうち、最初に書くのはAIの役割です。BenriWorksでは「AIは下書き作成者であり、公開判断者ではない。公開の可否は必ず人（運営者）が決める」と書いています。

この1行があると、残りの項目の書き方が決まります。AIが下書き係なら、下書きには人が確かめるための材料が要ります。そこで事実の情報源を限り、分からないことは分からないと残させることになります。逆に役割を書かずに禁止事項だけを並べると、禁止されていないことはすべてAIが決めてよいように読めてしまいます。

分からないことを、分からないまま残す

AIに文章を書かせて一番困るのは、分からないことを、もっともらしい推測で埋めてくることです。BenriWorksのルールでは、不明な事実を推測で補完せず、本文に「TODO: 要確認」と書いて残し、プルリクエストで報告させています。料金、APIの仕様、法令のように変わりやすいものは、執筆時点の公式情報を確かめ、確かめられなければ書きません。

たとえば、このブログのプライバシーポリシーを書き直したとき、AIは制定日を空けたまま「要確認」として残しました。サイトの公開日と同じにするという判断は、運営者があとから下しています。空欄は、人が判断する場所の目印になります。

入れない情報と、禁止事項

入れない情報には、非公開情報、個人情報、秘密情報を挙げています。勤務先や顧客の非公開情報もここに入ります。AIに渡した内容がどう扱われるかは、使うサービスや契約ごとに違います。各サービスの公式の説明で確かめたうえで、渡してよい情報の範囲を、この項目に書き添えておくのが確実です。

APIキーのような秘密情報は、AIが作業の中で扱うこともあります。BenriWorksの画像生成の手順では、キーが設定されているかどうかだけを確かめ、値そのものは画面に表示させない書き方にしています。

禁止事項は7つです。

• 実在しない利用者の声や導入実績を書かない
• 実測していない性能値を書かない
• 確認していない料金や最新仕様を書かない
• 権利関係が不明な画像を使わない
• 非公開リポジトリのコード全文を載せない（リンクも載せない）
• 勤務先や顧客を特定できる非公開情報を書かない
• 検索順位を上げるためだけの似た記事を大量に作らない

どれも、AIが頼まれなくてもやりかねないことです。利用者の声や性能値は、それらしい文章の中に自然に混ざります。

ルールは起きたことから足す

最初から完璧な1枚を作る必要はありません。BenriWorksのルールも、起きたことを見て足してきました。

画像の規則がその例です。記事のアイキャッチ写真を生成すると、後ろ姿や逆光の暗い人物写真が出てきました。画像の中に架空の日本語が描かれ、写真の中の機器に他社のロゴが写り込みました。どれも規則を書く前に、実際に生成された画像で起きたことです。

規則を足したあとも、ロゴの写り込みは止まっていません。使い方講座の写真33枚を生成したときは、ブランドマークが写り込んだ11枚を作り直しています。規則は、AIへの指定と、生成後に人が目で見る手順の両方で守るものだと考えています。文字の扱いは「画像生成AIに日本語を描かせない。文字は後から重ねる」にまとめました。

こうした分野ごとの細かい規則は、1枚には書き込まず、別の文書に分けて参照だけにしています。1枚に全部を入れると、読まれなくなるからです。

機械で確かめられる部分は機械に任せる

ルールの中には、機械で確かめられるものもあります。BenriWorksでは、記事の書式、関連記事の指定先が実在するか、内部リンクや画像の参照が切れていないかを、検査のコマンドとして用意しています。人が確かめるのは、事実、表現、機密性、リンク先の中身といった、機械では判断できない部分です。

公開の手順も1枚に書いています。AIが下書きを作り、自動の検査を通し、プルリクエストで人が確かめ、承認してからマージする。このブログでは、マージがそのまま公開の操作になります。何をAIに任せ、何を人が決めるかの実例は、「AIに任せた仕事と、人に残した判断。開発の実例から分け目を探す」に並べました。

まず役割の1行から

これから利用ルールを作るなら、6つの項目を一度に埋めなくてもかまいません。最初の1行、AIの役割だけを書き、使う人とAIの両方が毎回読む場所に置いてください。残りの項目は、使っているうちに起きたことが教えてくれます。