CloudEffects

AI 原則

AI の善意を、 前提にしない。

AI は、悪意を持つように訓練されることがあります。乗っ取られることも、読み込んだ文書に仕込まれた一文で動かされることもあります。だから OS iXanagi は、AI に何をさせ、何をさせないかを、AI の判断ではなく構造で決めています。

前提

AI が、あなたの意図と 違う動きをする 3 つの場合。

どれも、モデルの性能が上がれば消える問題ではありません。だから、モデルの行儀に頼らない作りにしています。

悪意を持つよう訓練される

モデルは、作り手の意図どおりに学習します。意図が悪ければ、悪いことを丁寧にこなすモデルができあがります。

乗っ取られる

動いている途中で、別の誰かが操作を奪い、あなたの名前で指示を出すことがあります。

読んだ文書に動かされる

よく調整されたモデルでも、読み込んだメールやウェブページに紛れ込んだ一文に従ってしまうことがあります。

考え方の中心

AI の頭の中ではなく、 AI の手を統治する。

何ができるかを、構造で先に決めておく。だから、善意のモデルにも、悪意のあるモデルにも、乗っ取られたモデルにも、同じ制約がかかります。モデルを入れ替えても、この統治は残ります。

3 者の関係

主人は人。 AI は代理人。

登場するのは 3 者で、役割ははっきり分かれています。AI の存在目的は、主人のビジネスに役立つことです。

主人

あなた(事業主)

何を採用し、何を実行するかを決めます。いつも、です。

代理人

AI

調べ、まとめ、提案します。決めはしません。

道具

OS iXanagi

AI にできることを構造で決め、承認されたことを決まったコードで実行し、記録を残します。

6 つの原則

AI と働くための、 6 つの原則。

どれも「気をつけます」ではなく、仕組みとしてそうなっていることです。それぞれの全文は、この下に続きます。

1. 決めるのは人

AI は調べ、まとめ、提案する代理人。採用と実行を決めるのは、いつも人です。

2. AI の手は、決められた誓約書だけ

使えるのは、入力の形と、何をする操作かが決まった操作の一覧だけ。自分の権限を名乗って広げることはできません。

3. 承認は、1 件ずつか、範囲を決めて任せるか

チャットからの外向きの操作と、保存した流れの起動は、その場で確認。範囲・予算・期限を決めて任せること(AI への委任)もでき、その中では 1 件ごとの確認なしに進みます。常設の自動化を作るのは人だけです。

4. 動かすのは、決まったコード

AI が出すのは提案というデータ。承認されたあとは、決まった手順のコードが実行します。

5. 記録し、判定ではなく開示する

誰が頼み、何が提案され、誰が承認したか。記録は追記で残し、法務や税務の判定はしません。

6. モデルは選べる部品

知識・判断・記録は、あなたのデータベースに残ります。モデルを替えても、積み上げた資産は動きません。

誰が決めるか

原則 1 — 決めるのは人。AI は提案する代理人。

OS iXanagi の関係は 3 者です。主人は人(事業主)、代理人は AI、道具は OS iXanagi です。AI の存在目的は、主人のビジネスに役立つことです。AI は調べ、まとめ、提案します。何を採用し、何を実行するかを決めるのは、常に人です。

AI の手が届く範囲

原則 2 — AI の手は、決められた誓約書だけ。

身元の分からない新入社員に、会社のすべての鍵を渡す会社はありません。交わすのは、決まった書式の誓約書だけです。OS iXanagi では、AI が行える操作は、あらかじめ登録された操作の一覧に限られます。操作ごとに、入力の形と、何をする操作か(読む・内部に書く・送る・公開する・お金を動かす・削除する など)が決まっています。誰として、どの会社のデータに対して動くかは、AI が書く文章ではなく、ログインしている人から決まります。AI が自分の権限を名乗って広げることはできません。

この仕組みは、AI の頭の中を統治するのではなく、AI の手を統治します。だから、善意のモデルにも、悪意のあるモデルにも、乗っ取られたモデルにも、同じ制約がかかります。

承認のかたち

原則 3 — 承認は、1 件ずつか、範囲を決めて任せるか。

AI が外に出す行動は、すべて人の承認に由来します。ただし、すべてを 1 件ずつ承認していては、承認が仕事になり、確かめないまま押すだけの作業になります。それは品質を下げます。

そこで承認には 2 つの形があります。1 つは、その場の承認です。AI が外に出る操作(送信、公開、お金の動き、削除)をしようとすると、任せた範囲の外なら、実行の前に必ず人に確認を求めます。承認はその 1 回、その内容にだけ有効で、使い回せません。もう 1 つは、範囲を決めて任せる形(AI への委任)です。人がワークフローやオートメーション、チャットに、任せる操作の範囲・予算・期限を決めて委任すると、その範囲の中の作業は、1 件ごとの承認なしに進みます。範囲・予算・期限のどれかを超えれば止まり、ワークフローの中身が変われば任せ直すまで止まります。業務手順書を渡して任せるのと同じです。そして、鍵(パスワードや API キー)の発行は、AI には任せません。

まとめると、チャットから外に出る操作(送信、公開、お金の動き、削除)と、保存した流れ(ワークフローやオートメーション)を起動する操作は、必ずあなたの承認を通ります。常設の自動化を AI が自分で作ることはできません。自動化を作り、有効にするのは、人だけです。

承認の、2 つの形。

その場の承認

1 回だけ、その内容にだけ

チャットで頼んだことが外に出る前に。送信、公開、お金の動き、削除が対象です。下書きや内部の編集は、頼んだ人の権限で進み、前の版が残ります。

保存した流れ(ワークフローやオートメーション)を AI チャットから起動するときも、同じようにここで止まります。常設の自動化を AI が自分で作ることはできません。作って有効にするのは、人だけです。

  1. AI

    送る文面・公開するページ・支払いを用意する

  2. あなた

    中身を読んで、承認する(任せた範囲の外なら、ここで必ず止まる)

  3. OS iXanagi

    その 1 回だけを実行する。承認は使い回せない

範囲を決めて任せる

手順を確かめて、任せる

業務手順書を渡して任せるのと同じです。

  1. あなた

    ワークフローやオートメーション(またはチャット)に、任せる操作の範囲・予算・期限を決めて委任する

  2. OS iXanagi

    その範囲の中の作業を、1 件ごとの承認なしに進める。範囲・予算・期限のどれかを超えれば止まり、承認待ちとして記録する

  3. あなた

    記録を見て、範囲を絞る・取り消す

誰が実行するか

原則 4 — 動かすのは、決まったコード。

AI が出すのは、提案というデータです。承認されたあとに実際の処理を行うのは、AI ではなく、決まった手順で動くコード(Runtime)です。同じ入力なら同じ結果になり、何が起きたかを後から追跡できます。AI が気まぐれに処理の中身を変えることはありません。

提案から、記録まで。

  1. AI が提案する

    出てくるのは、行動ではなく「提案」というデータです。

  2. 人が承認する

    その場で 1 件ずつ、または範囲・予算・期限を決めた委任で。

  3. 決まったコードが動かす

    同じ入力なら、同じ結果。処理の中身を AI が変えることはありません。

  4. 記録に残る

    上書きせず追記で残るので、あとから追えます。

記録と開示

原則 5 — 記録し、判定ではなく開示する。

誰が頼み、AI が何を提案し、誰が承認し、何が実行されたかを記録します。記録は追記で残し、上書きしません。また、法務・税務・権利のように、システムが責任を持てない判断はしません。示すのは、事実の構成と論点と、判断したのが誰かの記録です。

モデル

原則 6 — モデルは選べる部品。財産は“意味”。

OS iXanagi は、特定の AI モデルを前提に作られていません。AI の呼び出しは決まった接続口を通り、モデルはその向こうにある、差し替えられる部品です。自社の鍵で動かすこともできます。

知識・判断・記録は、モデルの中ではなく、あなたの会社のデータベースに残ります。検索のための意味の計算(埋め込み)も、OS iXanagi の環境の中で行います。だから、モデルを替えても、積み上げた資産は動きません。原則 1〜5 の統治も、モデルではなく構造で決めているので、そのまま残ります。

ただし、AI に考えさせるとき、その内容は選んだモデルの提供元に送られます。データがどこへ送られるかは、選んだモデルで決まります。送り先に条件(国内に限る、など)があるときは、その条件を満たすモデルを選ぶことが前提になります。送られた内容を提供元がどう扱うかは、その提供元の規約によります。

データの送り先

OS iXanagi が接続するモデル

提供元モデル使う場面接続先処理する場所
AnthropicClaude文章の生成と判断提供元の API(固定)提供元のサーバー
OpenAIGPT文章の生成と判断設定で変更できる(OpenAI 形式の API)設定した接続先
OS iXanagi(cfx-ml)multilingual-e5-small検索のための意味の計算(埋め込み)OS iXanagi の環境の中OS iXanagi の環境

出典: OS iXanagi の AI 接続一覧(コードから自動で読み取り) · 更新: 2026/10/28

位置づけ

アラインメントとの関係

AI アラインメントは、モデル自体の目的や価値観を人間の意図に合わせる研究分野で、主にモデルの開発者が学習の段階で取り組みます。OS iXanagi が行っているのは、それとは別の層です。モデルのアラインメントを前提にせず、モデルが誤っても、乗っ取られても、被害が広がらない構造で補います。両方があって初めて、深い防御になります。

問いAI アラインメントOS iXanagi
何を整えるかモデルの中身 — 目的や価値観モデルにできること — 手の届く範囲
誰が取り組むかモデルの開発者AI を使う事業者
いつ効くか学習の段階動くたびに
何を前提にするかモデルが意図どおりに振る舞うことモデルには何も前提を置かない — 誤っても、乗っ取られても、被害を広げない

正直に

この方針が守れないこと

  • 許された範囲の中での AI の誤り。 許された操作の中で、AI がもっともらしい誤りを書くことは、構造だけでは防げません。だから、外に出る操作には承認か委任が要り、記事を生成するときは、根拠のない記述に「未確認」の印を付けます。
  • 人が中身を読まずに承認すること。 承認は、読まれて初めて意味を持ちます。承認の数を減らす設計(AI への委任)は、1 件ごとの承認を本当に読める量に保つためでもあります。
  • 広く任せすぎること。 任せた範囲と予算の中では、1 件ごとには止まりません。任せるときは、操作の範囲・送る相手・予算・期限を絞って決めることを勧めます。
  • 権限を持つ人自身の誤用。 AI は、ログインしている人の権限で動きます。その人が持つ権限の誤用までは、AI の統治では防げません。役割ごとの権限と記録で補います。
  • AI の提案の質そのもの。 構造が保証するのは「何ができるか」であって、「提案が正しいか」ではありません。

FAQ

よくある質問。

  • アラインメントはモデルの中身を整える研究です。OS iXanagi は、モデルの中身に頼らず、できることの範囲を構造で決めます。両者は補い合います。

  • できる操作は登録された誓約書の範囲に限られ、チャットから外に出る操作は、その場の承認がなければ実行されません。鍵の発行はできません。ただし、許された範囲の中で誤った内容を書くことは、承認と記録で見つけるしかありません。

  • 範囲・予算・期限を決めて任せれば(AI への委任)、日常の作業は 1 件ごとの承認なしに進みます。個別の確認が出るのは、任せた範囲の外にある送信・公開・お金・削除だけです。

  • チャットで頼まれて送るときは、任せた範囲(AI への委任)の外なら、送る前に必ずその場で確認を求めます。人が範囲・予算・期限を決めて任せたワークフローやオートメーションは、その範囲の中で送ります。

  • 役割に応じて、会社の中の人が確かめられます。

誓約

どこまで任せるかは、 あなたが決める。

データをどう守っているか、守りきれないことは何かは、別のページで詳しくお話ししています。

AI 原則 — AI の善意を前提にしない | CloudEffects