🚀 ニフティ’s Notion

2024-09-30

【後半】生成AIと倫理的な問題

倫理とは 生成AIは良い使われ方だけを行われてきた訳ではない 悪いニュースから行動指針を学ぶ 著作権侵害問題 2022年8月、AIイラスト生成サービス「mimic」で生成されたイラストが、既存の作品と酷似していることが発覚 武蔵美のＡＩ絵画コンテスト、「著作権侵害」批判で急きょ中止…４００点以上の応募 情報の信頼性に関する問題 中国当局が、フェイクニュースを生成したとしてChatGPTユーザーを逮捕 ChatGPT で書かれたフィッシングメールが恐ろしいほど優れている 生成AI悪用しウイルス作成疑いで逮捕　全国初の摘発　警視庁 ディープフェイク CFO（最高財務責任者）になりすまして2500万米ドルを送金 首相・大統領へのなりすまし

倫理とは

  • 人間の行動や意思決定における「善」と「悪」、「正しい」と「間違っている」を区別し、それに基づいて適切な行動を促すための原則や価値観

生成AIは良い使われ方だけを行われてきた訳ではない

  • 生成AIの発展に伴い、以下のような様々な問題が浮き彫りになっている
    • 著作権侵害
      • イラストレーターやクリエイターなどの職域への影響
    • 情報の信頼性に関する問題
      • フェイクニュース、フィッシングメールの精度の高さ
      • ウイルス作成など犯罪への加担
    • ディープフェイク
      • なりすまし

悪いニュースから行動指針を学ぶ

著作権侵害問題
2022年8月、AIイラスト生成サービス「mimic」で生成されたイラストが、既存の作品と酷似していることが発覚

引用： https://kai-you.net/article/84728

  • イラストをアップロードすることでAIがその特徴を学習、 絵柄や画風といった“描き手の個性が反映されたイラスト メーカー”を作成できるサービス
  • 「悪意のある第三者が他人の作品を学習させ、画風・絵柄を模倣したイラストを自分の作品として発表してしまうのではないか」という危惧から 批判が殺到 。
  • mimicは、学習データに著作権で保護された作品が含まれていたため、著作権侵害の可能性
    • mimicはサービスを停止し、著作権侵害の疑いのある作品を削除
武蔵美のＡＩ絵画コンテスト、「著作権侵害」批判で急きょ中止…４００点以上の応募

引用： https://www.yomiuri.co.jp/national/20230805-OYT1T50207/

  • 特定の画像生成ＡＩアプリの使用を応募の条件としたが、アプリの機能に関する説明を誤った上、ＳＮＳで著作権侵害を懸念する声が上がり、受賞者が批判される恐れがあると判断した
    • 同ＡＩを巡っては、米国で、漫画家らが、自身の作品を無断で学習されたとして著作権侵害を訴え、裁判を起こす事態
  • 応募の条件としたアプリの機能を誤解し、「著作権が切れた画像のみを学習させたサービス」と紹介

情報の信頼性に関する問題
中国当局が、フェイクニュースを生成したとしてChatGPTユーザーを逮捕

引用： Chinese authorities arrest ChatGPT user for generating fake news

  • 中国当局によると、容疑者はOpenAIのチャットボットを使用して、複数の誤った列車死亡事故を報じたニュース記事を作成
    • 起訴された者は5年から10年の懲役刑に処される可能性
詳細な内容
  • ホン氏は特に 「喧嘩を売り、トラブルを引き起こした」罪で起訴 された。
  • サウスチャイナ・モーニング・ポスト紙は、オンラインで誤った情報を作成したり拡散したりした容疑者にこの罪が適用される可能性があるとしている。
  • ただし、この罪の適用はそれだけではなく、 公共の秩序を損なったり、公共の場所で混乱を引き起こしたり することとして広義に定義することもできます。
  • 違反行為の文言は曖昧 で、言論の自由を阻害し、中国政府を批判する活動家を逮捕する可能性があるとして広く批判されている。
  • 起訴された者は5年から10年の懲役刑に処される可能性がある。
ChatGPT で書かれたフィッシングメールが恐ろしいほど優れている

引用：ChatGPT-written phishing emails are already scary good： https://www.axios.com/2023/10/24/chatgpt-written-phishing-emails

  • IBM研究チームが実験を行ったニュース
  • 人間が16時間かけて作成したフィッシングメールと、ChatGPTが5分で作成したフィッシングメールを用意
    • 人間が作成したものは14% の人が引っかかり、 ChatGPTが作成したものは11% が引っかかる結果となった
詳細
  • ChatGPT-written phishing emails are already scary good： https://www.axios.com/2023/10/24/chatgpt-written-phishing-emails
    • IBMが以下の研究を行った
      Driving the news:  A team of IBM researchers released the results of an A/B testing experiment they ran with an unspecified global healthcare company's roughly 1,600 employees.
      ニュースの推進: IBM 研究者のチームは、不特定の世界的ヘルスケア企業の約 1,600 人の従業員を対象に実施した A/B テスト実験の結果を発表しました。
      • In the experiment, half of the employees got a phishing email written fully by IBM's  X-Force team .
      • The other half got an email written using ChatGPT.
    • その結果、以下となった
      • By the numbers:  14% of employees who received the human-written phishing email fell for it and clicked on a malicious link, according to the IBM report released Tuesday.
      • But the ChatGPT-written email was pretty close, with 11% of its targets falling for the note it wrote.
      • つまり、X-Force team（人間）が書いたものは14%の人が引っかかり、ChatGPTが書いたものは11%の人が引っかかった。
    • しかも、ChatGPTがそのフィッシングEメールを作成するのにかかった時間は、たったの5分（人は16時間）
      Between the lines:  It only took five minutes for Stephanie "Snow" Carruthers, IBM's chief people hacker who led the experiment, and her team to get ChatGPT to spit out the email her team ended up using.
    • ChatGPTにはそういう悪意のあるメッセージを生成しないような安全装置を設定したようだが、回避した人もいるとのこと。

生成AI悪用しウイルス作成疑いで逮捕　全国初の摘発　警視庁

引用： https://news.yahoo.co.jp/articles/e971f0a30ed892b2f1b9a250892dc3405b72ee26

  • 仮想通貨（暗号資産）を要求する身代金要求型ウイルス「ランサムウエア」に似たウイルスを作成したため逮捕
  • OpenAI社の「ChatGPT」といった対話型生成AIには、不正なプログラムの作成などに関する質問への回答を拒否する「ガードレール」という悪用防止機能が設定されている
    • だが、ネット上で公開されている作成者不明のものには「ガードレール」が設定されていないタイプも存在
    • 容疑者は作成者不明のものを使い、「ガードレール」を回避するため、目的を隠して間接的な質問を繰り返し、設計情報を回答させていた

ディープフェイク
CFO（最高財務責任者）になりすまして2500万米ドルを送金

引用： Finance worker pays out $25 million after video call with deepfake ‘chief financial officer’

  • 香港
    • 多国籍企業のCFOがビデオ会議で同社の最高財務責任者を装ってディープフェイク技術を利用し、詐欺師に2500万ドルを支払わせるようだまされた。
    • ミーティングに参加したところ、他のスタッフ同士が会話していた
      • しかし実際には、 参加者全員がディープフェイクで作成された偽物 だった
首相・大統領へのなりすまし

エンジニア定例 機械学習回 2024