Digital Labors

コラム

AIを使うときのリスクと、中小企業の守り方

AIの活用には、情報漏えい・誤情報・著作権・判断力の低下という4つのリスクがあります。それぞれがなぜ起きるのか、中小企業でも今日から取り入れられる守り方を、設定・確認・役割分担の観点からまとめました。

AIは便利な一方で、「情報が漏れないか」「間違ったことを書かないか」「著作権は大丈夫か」と不安を感じる方も多いと思います。実際に、生成AIが広まってから、AIをめぐるトラブルや訴訟は国内外で増えています。便利さが広がる速さに、使い方のルールづくりが追いついていないのが現状です。

ただし、リスクがあるからといって使わないのは、もったいない選択です。リスクの中身を知り、手を打っておけば、AIは十分に安全に使えます。ここでは、毎週の無料セミナーで取り上げた内容をもとに、AIを使うときの4つのリスクと、中小企業でもすぐに取り入れられる守り方をまとめます。

AIを使うときの4つのリスク

1. 情報漏えい

海外の大手メーカーで、技術者が社外秘のプログラムを生成AIに貼り付けてしまい、社内でAIの利用を制限することになった例があります。AIに入力した内容は、サービスの設定によっては外部に保存されたり、AIの学習に使われたりする可能性があります。一度の貼り付けが、そのまま情報漏えいになり得るということです。

2. 誤情報

海外では、AIが作り出した存在しない判例を、確かめずに裁判所へ提出した弁護士が処分を受けた例があります。「AIがそう言った」は言い訳になりません。AIの答えは、確かめるまでは「たたき台」にすぎません。

3. 著作権

いま著作権をめぐる争いの中心は、AIを提供する会社と、新聞社や映画会社などの権利者との間です。ただ、今後は、AIで作った文章や画像が既存の作品とよく似ていて、それを公開したり商売に使ったりした利用者の側が責任を問われることも考えられます。

4. 判断力の低下

AIに任せきりにすると、考える力が衰え、説明する責任もあいまいになります。海外では、企業のチャットボットが誤った案内をし、それが会社の発言として扱われた例があります。AIが自動で判断する仕組みでは、人による確認がなかったことが問題になったケースもあります。

リスクが生まれる4つの原因

4つのリスクの背景には、共通する原因があります。

  • 設定の不備:履歴の保存や学習への利用が初期設定のまま。会社のアカウントと個人のアカウントが混ざっている
  • 確認の不在:出典の確認や二重チェックの仕組みがない
  • 記録の不在:誰が、どの基準で承認したのかが残っていない
  • AIへの依存:元の情報を確かめずにAIの答えを鵜呑みにし、最終的に誰が判断するのかがあいまい

逆に言えば、この4つに手を打てば、リスクの多くは防げます。

今日から取り入れられる守り方

情報漏えい:AIに学習させない設定と、入れてはいけない情報の一覧

  • 会社で使うAIは、会社として契約したアカウントに統一し、個人のアカウントでの利用は避ける
  • 入力した内容をAIの学習に使わない設定になっているか確かめる
  • 「入れてはいけない情報」の一覧を作って配る(例:お客様の個人情報、取引先との契約の中身、社外秘の図面や原価)
  • どうしても使いたいときは、名前や金額を伏せ字にしてから入れる

誤情報:出典を求め、別のAIにも確かめる

  • 調べものを頼むときは「根拠になった資料やページも示して」と添える
  • 重要な文書は、別の会社のAIにも確かめさせる
  • 出典のない情報は使わない、AI同士で答えが食い違ったら調べ直す

確かめ方の詳しい手順は、AIの答えをそのまま出さない:誤りを見抜く確かめ方でご紹介しています。

著作権:作ったあとにもう一度確かめる

  • AIで作った文章や画像について、「既存の作品と似ている可能性や、権利の面で心配な点を挙げて」とAIに確かめさせる
  • 画像は、似たものが出回っていないか画像検索で確かめる
  • 商用利用が認められていることが明記されたサービスを使う
  • 心配な点が出たら差し替え、使ったサービスや指示の内容を記録しておく

判断力の低下:最後に決めるのは人、と役割を決める

  • 「AIが作る → 担当者が確かめる → 責任者が決める」の3段階を決め、最終的に決める人を名指しで決めておく
  • お客様への回答や、お金・契約にかかわる判断を、AIだけで自動的に決めない
  • 重要な判断には、使ったAIや指示の内容、参考にした資料を添えておく

小さな会社ほど、決めごとはシンプルに

大企業のように、細かい規程や専門の部署を用意する必要はありません。中小企業では、まず次の3つを1枚の紙にまとめるだけでも、効果は大きいはずです。

  1. 会社として使ってよいAIと、その設定
  2. 入れてはいけない情報の一覧
  3. 社外に出す前に、誰が確かめるか

完ぺきなルールを最初から作ろうとせず、使いながら見直していけば十分です。

まとめ

  • AIのリスクは、情報漏えい・誤情報・著作権・判断力の低下の4つ
  • 原因は、設定・確認・記録・依存の4つに整理できる
  • 学習させない設定、出典とAIによる確かめ、作ったあとの確認、人の最終判断で守る
  • AIは敵にも味方にもなる。決めごとを持って、恐れずに正しく使う

社内でAIを使い始める前の決めごとについては、社内でAI研修を始める前に決めておきたい3つのこともあわせてご覧ください。自社に合ったルールづくりからご相談いただく場合は、サービス内容をご覧のうえ、お問い合わせください。

文:嶺本高志(デジタルレイバーズ代表)