マルタが人工知能の課題に取り組む中、マルタ大学の法学部生マルティナ・ガレア氏が、SiGMAエッセイコンペティションの優勝作品を通じて説得力のある見解を示した。彼女のエッセイは、人工知能と刑事責任に焦点を当てている。このテーマは、成長を続けるゲーム業界やデジタル産業において、懸念が高まっている分野である。
BDOマルタでインターンをしているガレア氏は、「Decoding Gaming Law」ポッドキャストにゲスト出演し、フランクリン・カチア博士と自身の記事について語った。彼女の記事では、新たに登場するイノベーションと責任の保持、そして倫理の基本原則との間にある緊張関係に触れている。ガレア氏はAIの利用におけるガバナンスのための具体的な方策を強調している。
AIの倫理審査委員会
ガレア氏のエッセイの主要な提案の一つは、「AI倫理審査委員会」の設立である。SiGMAマガジンの記事から着想を得た彼女は、この委員会を正式な監視メカニズムとして捉えている。AIを導入しようとする企業や事業者は、AIが何を目的としているかを説明する提案書を提出することになる。この委員会はそれらの報告書を精査し、AIの許容可能な行動基準を設定し、コンプライアンスに関連する事項・関連しない事項の双方に関して最低基準を確立する。
「この委員会は、ほぼライセンス制度のように機能する可能性があります」とカチア博士は説明する。「これにより、AIの適用方法に関わらず、事業者が一貫した基準を維持でき、不正使用のリスクを減らすことができます。」カチア博士は、この種の監督は、新興技術に対して一定のルールや抑制・均衡を導入しようとする広範な取り組みに沿うものだと付け加えた。
責任と刑事責任
ガレア氏は、AIの「人格化」という考えを明確に否定している。彼女は、AIには意図を形成する能力がなく、したがって刑事責任を負うことはできないと主張する。代わりに、責任はAIシステムを監督する人間のオペレーターにあるべきだとし、とりわけリスクが予見可能な状況ではそれが重要であると述べている。
「実際には、AIとそのデータを扱う人々こそが、AIが正しく機能することを確実にしなければならないのです」とガレア氏は述べる。特に金融取引やゲーム運営のような高リスクの場面では、二重の管理と多層的な監督の重要性を強調した。
支援としてのAI
ガレア氏の記事で一貫しているのは、支援的AIと自律的AIの区別である。彼女は、AIが単独で判断を下すのではなく、人間が意思決定を行う際の支援ツールとして存在するべきだという考えを支持している。
例えば、AIは不審な行動を検知してデータアナリストに報告し、そのアナリストが内容を確認するという仕組みが考えられる。この場合、AIが疑わしいという理由だけでアカウントを停止することはない。これにより誤判定が減り、最終的な判断を人間が行うため、利用者の保護にもつながる。つまり、AIはあくまで人を支援する立場にある。
事業者が考慮すべき実践的な助言
ガレア氏は、AIを活用するマルタの事業者に対して実践的な助言を提供している。彼女は、AIを支援ツールとして活用し、徹底したリスク評価を実施し、EUのAI法に準拠した倫理規範を導入すべきだと提言する。これにより、事業者はAIの恩恵を最大限に享受しながら、運営・法的・評判リスクを軽減できるという。
また彼女は、人々がよく指摘する反論にも触れている。倫理委員会のような仕組みを導入すると、イノベーションや市場投入のスピードが遅れるのではないかという意見だ。これに対しガレア氏は次のようなたとえを挙げる──「半焼けのケーキを重ねるよりも、しっかり焼けたケーキをもう一枚焼いて重ねた方がいいのです。」この考え方に基づき、彼女は高リスク分野における慎重で実践的な導入の必要性を強調している。
AI法の未来を形づくる
マルティナ・ガレア氏は、規制制度は技術と並行して発展できると述べている。マルタの事業者は、倫理的監督、人間の責任、そして支援的なAIの活用に重点を置き、革新を中心に据えつつ、安全なAI利用を促進すべきだという。
ガレア氏の優勝エッセイにより、彼女はSiGMAマルタへの参加権と、ローマで開催されるSiGMAヨーロッパ・セントラルへの全額費用負担の旅を獲得した。彼女はパネルディスカッションにも参加予定であり、ゲーム分野をはじめとするAI規制の未来を形づくる若手法務専門家の重要な役割を示している。
詳細についてはSiGMAのウェブサイトをご覧ください。
