AIの普及と拡大する用途

AIは近年目覚ましい発展を遂げ、様々な分野で活用が広がっています。特に生成AIは、自然なテキスト、画像、音声などを生成でき、対話、ニュース記事、小説、絵画、イラスト、音楽、動画、マーケティング、プレゼン資料、レポート、プログラミングなどの制作において活用され、社会のあらゆるシーンに急速に波及しています。これをお読みの皆さんの中にも使っておられる方は多いと思います。

生成AIの脅威

その一方で、生成AIはあまりに急速に進化し、さまざまな分野に波及しているため多くの課題が指摘されています。
たとえば有名歌手の音声や歌声を無断利用したフェイクの歌や、有名俳優のディープフェイク画像・動画が生成AIによって制作されて拡散されたりするなど、著作権や肖像権ならびに人権を侵害するような事件が多発しています。またAIの学習の際に、無断で他者の文章、イラストレーターの作品、写真にうつった顔などを学習してしまうなどの、無断スクレイピングの事例も多く発生しました。
他にもディープフェイクによるさまざまな事件に関連した偽情報の拡散、児童の性的な画像生成などが問題視されています。
この他に深刻なリスクとしてはAIが推定・判断した情報－たとえば人種や嗜好－が政治的なプロパガンダや憎悪表現に利用されるリスクも危惧されています。AI自身の出力にバイアスがあり、あるいはバイアスのかかったAI が流通することにより、人種や性別による差別につながる可能性も指摘されています。

AI規制の動き

こうしたリスクの急速な顕在化を受けて、世界各地で生成AIの規制を検討する動きが活発になっています。
EUでは2024年3月13日、他にさきがけて世界初の包括的なAI規制法案「EU AI Act」が可決しました。この法案はAIあるいはAIに関わる企業に対して安全性に関わる義務を定めるものです。人権や民主主義へのリスクに特にフォーカスしており、個人の行動を操作すること、行動履歴や性格・嗜好に基づく信用格付け(ソーシャルスコアリング）、人を政治・宗教・思想・嗜好・人種などで分類するシステム、ある人物が罪を犯す可能性を予測するシステムなどは、高いリスクがあるということで禁止されることになりました。
この他にも公共の場で監視カメラやインターネットを通じて無差別に顔画像を収集して利用すること、職場・教育機関での感情認識技術の利用なども原則禁止されます。
分野的には教育、医療、法律、国境管理、選挙などで使うAIシステムなど、ハイリスクとみなされるAIシステムは、システム上の決まりだけではなく、人が必ず立ち会うなど厳格な要件に準拠する必要があります。
出力したコンテンツは、必ずAIにより生成されたものであることを明示しなくてはなりません。そして学習モデルのトレーニングには著作権的に問題のないデータを使っていることを説明する義務を負います。
違反した企業やサービスには制裁金が課せられます。これはEUの規制法ですが、一般データ保護規則(GDPR)と同じくEU圏内の人々が閲覧・利用可能なものは対象になる可能性が高くEUで事業を行う世界中の企業や個人が対象になる可能性は高いものと考えられています。EU AI Actは2026年に適用が始まる予定です。

米国でも、連邦取引委員会がAIの透明性と説明責任を求める規制を検討しており、バイデン米政権から昨年秋、AIの安全性に関する新基準などの大統領令が出されています。AIの中枢企業が多いせいか、現時点ではさほど強い規制を想定していないようです。2024年は米国の大統領選ということで、AIによるディープフェイク動画が既に乱れ飛んでおり、AIの脅威と被害についての議論は、選挙期間中の出来事によって世論形成されるとも言われています。
日本では経済産業省がAI開発ガイドラインを策定し、安全性と信頼性の確保を企業に求めている他、世界の趨勢に遅れないよう国産の生成AIプラットフォームの開発支援に急ぐと同時に生成AIに関する法規制やガイドラインの検討を急いでいます。

規制には賛否両論

生成AIが引き起こす問題は深刻であり、一定の規制は必要不可欠と考えられていますが、その進化と波及のスピードがあまりにも急速なため、対応が追いついていないというのが現状のようです。適切な規制を設けることで、AIの健全な発展と人権の保護の両立が期待されます。一方で、過度な規制はAIの発展を阻害し、イノベーションを損なうリスクもあります。規制は倫理的課題とイノベーションのバランスを取りながら、柔軟に対応していく必要があります。

マーケテイング・コミュニケーションでのお悩みや課題がございましたら、是非一度、ご相談ください。貴社の課題解決につながるご提案をお話しさせていただきます。お気軽にお問い合わせください。