몰타가 인공지능의 도전을 헤쳐나가는 가운데, 몰타 대학교 법대생인 Martina Galea는 SiGMA 에세이 경연대회의 우승작을 통해 설득력 있는 관점을 제시합니다. 그녀의 에세이는 AI(인공지능)와 형사 책임에 초점을 맞추었으며, 이 주제는 성장하고 있는 게임 및 디지털 산업에서 우려가 커지는 영역이 되고 있습니다.
BDO Malta에서 인턴으로 일하는 Galea는 Decoding Gaming Law 팟캐스트에 게스트로 출연하여 Franklin Cachia 박사와 자신의 논문에 대해 논의했습니다. 그녀의 논문은 새롭게 등장하는 혁신과 책임 유지, 그리고 윤리의 기본 원칙 사이의 상충되는 긴장을 다루고 있습니다. Galea는 AI 사용에 대한 거버넌스를 위한 구체적인 조치를 강조합니다.
AI 윤리 검토 위원회
Galea의 에세이에서 나온 핵심 권장 사항 중 하나는 AI 윤리 검토 위원회(AI Ethical Review Board)의 설립입니다. SiGMA 매거진의 기사에서 영감을 받은 그녀는 이 위원회를 공식적인 감독 메커니즘으로 봅니다. AI를 출시하려는 기업과 운영자는 해당 AI의 의도된 목적을 설명하는 제안서를 제출하게 됩니다. 위원회는 이 보고서를 검토하고, AI의 허용 가능한 행동에 대한 기준점을 설정하며, 규정 준수 관련 및 비관련 사항에 대한 최소 기준을 설정할 것입니다.
Cachia 박사는 “이 위원회는 거의 라이선스 제도처럼 운영될 수 있습니다”라고 설명합니다. “이는 운영자가 AI를 어떻게 적용하든 일관된 표준을 유지하도록 보장하여 오용의 위험을 줄일 수 있습니다.” Cachia 박사는 이러한 유형의 감독이 신기술에 대한 일부 규칙과 견제와 균형을 구현하려는 광범위한 시도와 일치한다고 덧붙였습니다.
책임 소재 및 형사 책임
Galea는 AI 인격체라는 개념을 단호히 거부합니다. 그녀는 AI가 의도를 형성할 수 없으므로 형사 책임을 질 수 없다고 주장합니다. 대신, 책임은 특히 위험이 예측 가능한 상황에서 AI 시스템을 감독하는 인간 운영자에게 있어야 합니다.
Galea는 “실제로는 AI와 그 데이터를 다루는 사람들이 AI가 올바르게 작동하도록 보장해야 합니다”라고 말합니다. 그녀는 금융 거래나 게임 운영과 같은 고위험 시나리오에서 이중 통제와 계층화된 감독의 중요성을 강조합니다.
지원 도구로서의 AI
Galea의 논문에서 일관된 요점은 보조 AI와 자율 AI를 구별하는 것입니다. 그녀는 민감한 영역에서 AI가 결정을 단독으로 실행하는 대신, 사람들이 의사 결정을 돕는 도구로 존재해야 한다는 아이디어를 지지합니다.
예를 들어, AI가 의심스러운 활동을 감지하면 계정을 정지하는 대신, 데이터 분석가가 해당 보고된 활동을 확인할 수 있도록 플래그를 지정하는 것입니다. 이는 인간이 여전히 결정을 중재하므로 실수를 최소화하고 사용자를 보호하며, AI는 사람을 지원하는 역할만 수행하게 됩니다.
운영자가 고려해야 할 실질적인 조언
Galea는 AI를 활용하는 몰타 운영자들에게 실행 가능한 조언을 제공합니다. 그녀는 운영자가 AI를 지원 도구로 활용하고, 철저한 위험 평가를 수행하며, EU의 AI 법(AI Act)을 준수하는 윤리 강령을 구현해야 한다고 주장합니다. 이를 통해 운영자는 AI의 이점을 얻고 운영적, 법적, 평판적 위험을 줄일 수 있을 것입니다.
그녀는 또한 사람들이 종종 제시하는 반론에 대해서도 이야기합니다. 사람들은 윤리 위원회와 같은 상업적 개념이 혁신 속도를 늦추거나 시장 출시 시간을 지연시킬 수 있다고 주장합니다. Galea는 다음과 같은 비유를 제시합니다. “반만 구워진 케이크를 만드는 것보다, 잘 구워진 케이크를 만들고 그 위에 또 다른 잘 구워진 케이크를 겹치는 것이 낫습니다.” 이러한 이점을 얻기 위해 Galea는 고위험 환경에서 느리고 실용적인 구현의 필요성을 강조합니다.
AI 법의 미래 형성
Martina Galea는 규제 체제가 기술과 병행하여 발전할 수 있다고 말했습니다. 몰타의 운영자들은 윤리적 감독, 인간의 책임, 보조적 적용에 중점을 두어 AI의 안전한 사용을 촉진해야 하며, 이 과정에서 혁신을 핵심에 두어야 합니다.
Galea의 우승 에세이는 그녀에게 SiGMA 몰타 티켓과 SiGMA 중앙 유럽 로마 패널 토론 참여를 위한 모든 경비 지원 여행을 안겨주었습니다. 그녀의 작업은 게임 산업 및 그 이상에서 AI의 규제 미래를 형성하는 데 있어 젊은 법률 전문가들의 커지는 역할을 강조합니다.
더 자세한 정보는 SiGMA 웹사이트를 방문하세요.
