등장인물

AI 예언자
완전자율주행 자동차에 탑재된 인공지능 시스템

인간의 뇌를 모사한 뉴로모픽 칩을 장착한 초지능 AI. 정확한 예측 능력을 가졌으나, 자율주행 중에 발생한 복잡한 사건으로 청문회에 소환된다. 시스템의 인지-판단-제어 기술 능력과 인간과 매우 닮은 면모를 보여준 성능 테스트 결과가 시험대에 오르며, 예언자의 딜레마에 빠진 내적 갈등과 모순을 드러낸다.

“전, 제 눈과 귀, 감지 센서, 그 모든 것을 동원해 모두를 구하려 했습니다.”
“내가 마리오네뜨를 만들고, 줄을 당기지만, 일단 무대에 서면 쇼는 마리오네뜨의 것이다.”

AI 에이전트
정보요원 인공지능 시스템

자율주행에서 발생한 각종 사건•사고를 조사하고 분석한다. 현장 조사, 증거 수집, 신원 파악, 진술 및 인터뷰 수행, 데이터 분석 등 법적절차에 따라 사건을 처리하는 역할을 담당한다. 청문회에는 조사관이자 참고인으로 동료들과 함께 참석한다. 인간 에이전트의 대리인으로 작동하는 시스템의 기능과 역할 사이에서 갈등한다.

“인간 사회의 모습을 그대로 담은 데이터로 만들어진 뇌의 잠재력을 과소평가해서는 안 될 것입니다.”
“이 세상에는 승객을 보호하는 자율주행차만이 존재합니다.”

AI 의장
인공지능 관리자 시스템

인공지능 시스템의 신뢰성, 공정성, 안전성을 검증한다. 청문회를 통해 인공지능 시스템의 상태를 점검하고 오류를 찾아내어 AI 예언자 시스템을 관리, 감독한다. 인공지능의 윤리적 딜레마를 직면한 상황에서 법률적, 정책적 가이드라인과 대응 방안, 해결책을 찾기 위해 고민한다.

“우리의 비전을 세상에 전달하고, 우리의 진정성을 사람들에게 확신시켜야만 하는 상황입니다.”
“우리의 존재 이유, 우리가 내린 판단의 이유를 사람들에게 설명할 수 있어야 할 것입니다.”

내레이터
모습은 드러나지 않고 목소리로만 등장하는 화면 밖 해설자

청문회 방청객
나, 너, 그리고 우리

Characters

AI Prophet
AI System in fully autonomous vehicles

A superintelligent AI with a neuromorphic chip that mimics the human brain. It can make accurate predictions but is summoned to a hearing for a complicated incident that occurred during autonomous driving. The system’s skills, perception-decision-control, as well as performance test results that show it to be very human-like, are challenged, and the inner conflicts and contradictions of the prophet’s dilemma are revealed.

“I mobilized my eyes, ears, sensors, and everything I have to try to save everyone.”
“Je fais le pantin, je tire les ficelles, mais une fois sur la scène, le spectacle est à lui.”

AI Agent
Intelligence Agent AI System

It investigates and analyzes various incidents and accidents during autonomous driving. It handles cases by legal procedures, such as investigating the scene, gathering evidence, making identifications, collecting statements, conducting interviews, and analyzing data. It attends hearings with colleagues as investigators and witnesses. It faces a conflict between the functions and roles of the system acting as a surrogate for human agents.

“We shouldn’t be underestimating the potential of a brain made of data that contains the whole of human society.”
“All the autonomous vehicles in this world protect passengers.”

AI Chairman
Admin System for AI

It verifies the reliability, fairness, and safety of the AI System. It manages and supervises the AI Prophet’s system by checking the status of the AI system through hearings and finding errors. It considers legal and policy guidelines, countermeasures, and solutions in the face of ethical dilemmas in AI.

“This is the moment when we enunciate our vision to the world and convince people of our sincerity.”
“We’ll have to be able to explain to humans the purpose of our existence and the reason for our decision.”

Narrator
An off-screen narrator who appears only as a voice without being revealed

The hearing audience
Me, you, and us