The Prophet in the Darkness

어둠 속의 예언자

Work Info
Artist Note
Description
Materials

Year

2023

Genre

Drawing & Painting, Installation, NFT, Sculpture & Objet, Text, Time-based Media

Media

Exhibition with multi-channel 3D animation, drawings, paintings, poems, 3D printed ceramic objects, furniture, lightings, mixed-media

Dimensions

Variable

The Prophet in the Darkness

Co-op and SUBWAY

The place that has no name

The Hearing on AI Prophet

The Reconstruction of the Incident

Pleasant Valley

Sara

{"arrow":"true","pagination":"true","speed":"1000","autoplay":"true","autoplay_speed":"3000","loop":"true","slide_to_show":"1","slide_show_ipad_swpr":"1","slide_show_tablet_swpr":"1","slide_show_mobile_swpr":"1","slide_to_scroll_swpr":1,"auto_stop":"false","centermode":"true","space_between":0,"animation_swpr":"fade","height_auto_swiper":"","show_thumbnail_swpr":"false","space_between_thumb":0,"thumb_per_view":4,"thumbfreemode":"false","swpr_pagination":"fraction","freemode":"false","autowidth":"false"}

{"animation_fancy":"fade","transition_fancy":"fade"}

시놉시스

강하게 내리쬐는 태양 아래, 끝을 가늠할 수 없는 사막이 펼쳐진다. 모든 문명이 모래바람에 휘날려 사라진 듯 생명의 흔적은 온데간데없고 폐허가 된 건물만이 간신히 서 있다. 시간이 멈춰버린 것만 같은 적막함 속에 광활한 황무지를 달리는 한 대의 차량, '아이모(iMo)'가 보인다. 아이모는 역사상 가장 뛰어난 인공지능 시스템으로 불리는 AI 예언자가 탑재된 완전자율주행 전기차다. 관객은 탑승객이 되어 종착지인 길의 끝, 이름 없는 곳*을 향한다.

고속도로를 지나 국도로 진입하며 네트워크 통신이 불안정한 좁은 시골길을 달린다. 이때, 어둠 속에서 찰나의 섬광이 감지된다. 멸종되었다고 알려진 동물. 반짝이는 눈동자, 아이샤인. AI 예언자는 학습한 적 없는 생명체와의 충돌을 피하고자 급히 핸들을 틀고 나무 앞에 가까스로 멈추어 선다. 뒤따라오던 불법 개조된 사이버트럭. 예기치 못한 상황에서 발생한 사건. 자율주행 차량의 사원칙을 어긴 인공지능. AI 예언자의 예측 실패인가, 우발적 사고에 발휘된 기지인가? 완벽한 예측 능력을 지닌 예언자의 판단은 다른 결과를 초래할 수 있다는 사실. 예측의 불확실성은 자율주행 시스템 내부에 큰 혼란을 불러일으키는데…! 사건의 경위를 파헤쳐 원인을 규명하는 AI 예언자의 청문회가 지금, 시작된다.

*이름 없는 곳(The place that has no name)은 해당 작품과 관련 있는 전작의 제목이기도 하다.

Synopsis

An endless desert stretches out beneath a blazing sun. There are no signs of life, only ruined buildings barely standing, as if all civilization has been swept away by the wind. In this seemingly timeless desolation, we see a lone vehicle, 'iMo', driving across the vast wasteland. iMo is a fully autonomous electric vehicle driven by the most advanced artificial intelligence technology ever developed in history – the AI Prophet. The audience becomes a passenger and heads to the end of the road, The place that has no name*.

From the highway, it turns onto a country road. It is safely traveling on narrow country roads with unreliable network communications. But then, in the darkness, it sees a flash of light - an animal believed to be extinct, with sparkling eyes, called Eyeshine. The Prophet swerves to avoid a collision with the unfamiliar creature and comes to a screeching halt in front of a tree. However, the illegally modified Cybertruck behind it is unable to avoid the animal and collides with it. This event occurs unexpectedly, and the Prophet ultimately violates a cardinal rule of autonomous vehicles. The question arises: is it the failure of the AI Prophet's predictive ability or its intelligence exercised in an accident? The fact that the Prophet's judgment can be uncertain creates great turmoil within the autonomous system…! This leads to an AI Hearing that will delve into what happened and determine the cause of the incident.

*The place that has no name is the title of a previous work related to this work.

《어둠 속의 예언자》는 'AI 청문회'를 개최한다. 인간의 뇌를 모사한 뉴로모픽 칩을 장착한 초지능 인공지능, 'AI 예언자'가 탑재된 완전자율주행 자동차가 상용화된 기술사회는 인공지능 시스템이 인간을 대신해 모든 판단과 결정을 내린다. 이곳에서 AI는 인간을 보조하는 도구적 위치에서 벗어나 하나의 인격체, 즉 전자인격으로 존중받는다. 나아가 AI 예언자는 완벽한 예측 능력으로 안정된 미래를 보장하는 예언자의 역할을 수행한다.

그러나 전시는 AI 예언자의 예측이 실패한 상황을 설정해 인공지능 시스템에 대한 견고한 믿음이 위협받는 장면을 연출한다. 이는 AI 청문회에서 또 다른 사고 실험으로 이어진다. 청문회는 3D 디지털 휴먼으로 형상화된 예언자, 에이전트, 의장이 등장하여 각자의 위치에서 인공지능의 딜레마에 관해 이야기한다. 그렇다면 우리 인간은 인간이 만든 로봇과 인공지능이 자율성을 획득할 때 필연적으로 발생하는 윤리적 문제를 어떻게 바라볼 것인가?

미디어 비평적 시각을 기반으로 다양한 매체를 경유하며 과학기술이 편재한 사회의 틈을 포착하고 통찰을 보여 왔던 방앤리는 《AVS: Artists' View of Science 과학을 바라보는 예술가의 시선 - 내추럴 레플리카》(2023, 김희수아트센터)를 계기로 박종길(KIST 선임연구원, 뉴로모픽 공학박사) 과학자와 협업하여 미래사회에 대한 더욱 구체적인 청사진을 그린다. 동시에 인공지능 기술이 재창조하는 시간의 개념, 과학기술 윤리와 딜레마, 삶의 전 영역에 걸친 기술의 쓰임과 파급력에 대한 질문을 던지며 곧 도래할 자율주행 시대를 예비하는 촘촘한 철학적 사유를 전개한다. 또한 과학기술 문해력 및 접근성 향상을 고민하고 기술사용에 관한 사회적 의제를 발굴하는 역할로서의 예술가를 자청하며, 전시를 통해 관객 스스로 사고할 수 있는 자리를 만들고자 한다.

The Prophet in the Darkness holds an 'AI hearing.' This is a technological society where fully autonomous vehicles driven by the 'AI Prophet' have been commercialized. The AI Prophet is an Artificial superintelligence (ASI) equipped with neuromorphic chips that imitate the human brain. Here, the AI system makes all the judgments and decisions on behalf of the human, and the AI is treated as an electronic person, rather than a tool that supports humans. Moreover, the AI Prophet fulfills its role as the seer through its perfect predictive capabilities, further ensuring a stable future.

However, there occurs a situation in which the AI Prophet fails to predict accurately, threatening the firm faith in its AI system. This leads to another thought experiment at an AI hearing. The hearing includes the Prophet, the Agent, and the Chairman, who are portrayed as 3D digital human representations. They are engaging in a discussion about the AI dilemma from their individual perspectives. So, how will humans address the ethical concerns that will inevitably arise as robots and AI, created by humans, become more autonomous?

Bang & Lee understand the societal gaps caused by the widespread influence of science and technology through various media forms. They have been collaborating with scientist Jongkil Park (Ph.D. Senior Researcher, Center for Neuromorphic Engineering, Korea Institute of Science and Technology, KIST) for the exhibition "AVS: Artists' View of Science - Natural Replica" (Kim Hee Soo Art Center, 2023). They create a more inclusive plan for the future of society. At the same time, they delve into profound philosophical ideas that anticipate the era of autonomous driving. They inquire into the redefined nature of time brought about by AI technology, the moral dilemmas arising from technology, and its practical consequences and impacts. In addition, they claim the role of an artist as a mediator and aim to improve science and technology literacy and accessibility. They also aim to identify social agendas associated with the use of technology and further encourage the audience to think independently during the exhibition.

Bang & Lee: The Prophet in the Darkness, Exhibition at TMCA

📂 Exhibition Leaflet + Appendix 🔗 [Bang & Lee] 어둠 속의 예언자_The Prophet in the Darkness

방앤리는 박종길 과학자(KIST 선임연구원, 뉴로모픽 공학박사)와 협업을 계기로 인간의 뇌를 모사한 뉴로모픽 칩을 장착한 초지능 인공지능이 도래한 미래 사회에 대한 연작을 진행 중입니다. AI 예언자와 AI 에이전트 사이의 대화를 통해 사건의 발단과 배경을 소개한 전작 《아이샤인(Eyeshine)》(2023)에 이어, 인공지능들이 주최하는 《AI 예언자 청문회(The Hearing on AI Prophet)》와 예측 불가능한 상황에 대한 판단을 둘러싼 기록을 검증하는 《사건의 재구성(The reconstruction of the incident)》(2023) 후속작을 중심으로 《어둠 속의 예언자(The Prophet in the Darkness)》(2023) 전시를 토탈미술관에서 발표합니다.

동시대 인공지능에 대한 질문들과 이슈들이 첨예한 가운데, 이 프로젝트를 통해 방앤리는 인간과 닮은 인공지능과 관련한 복잡한 사건의 층위를 다루며 과학기술 윤리, 인공지능의 예측 오류와 딜레마, 더 나아가 인간 고유의 추론 능력과 창의성, 기억과 원본에 관한 깊이 있는 질문을 던집니다. 시 텍스트와 낭독 사운드, 드로잉, 회화, 3D 프린팅 도자기 오브제, 미니어처 등 평면과 입체가 멀티채널 3D 애니메이션 영상 설치와 함께 가상 청문회에 관객을 청중으로 초대하며 극적 공간을 연출합니다.

AI 예언자가 탑재된 완전자율주행 자동차가 상용화된 기술사회는 인공지능 시스템이 인간을 대신해 모든 판단과 결정을 내립니다. AI는 인간을 보조하는 도구적 위치 또는 기술에서 벗어나 하나의 인격체, 즉 ‘전자인격(Electronic Person)’ 으로 존중받으며 이에, AI 예언자는 완벽한 예측 능력으로 안정된 미래를 보장하는 예언자로서 그 역할을 수행합니다. 인간이 주재하는 인공지능에 대한 청문회가 아닌, 인공지능들이 스스로 주관하는 청문회는 일종의 사고 실험입니다. 디지털 휴먼 캐릭터로 탄생한 예언자, 에이전트, 의장, 그리고 내레이터와 전시 공간의 관객이 방청객이 되어 청문회장(전시 공간)에 자리합니다.

작품은 곧 도래할 자율주행 시대를 그리며 AI 예언자 청문회를 통해 인공지능 기술이 재창조하는 ‘이벤트(event)’ 기반 시간의 개념을 바탕으로 확장된 세계관을 펼칩니다. 의인화된 인공지능들은 어쩌면 인간보다 더 인간적인 면모를 지니고 있으며 과학기술 윤리와 그 딜레마, 삶의 전 영역에 걸친 기술의 쓰임과 파급력에 관한 질문과 함께 청문회에 참석한 관객에게 사고의 틈, 사색의 공간과 대화의 자리를 제공합니다. 청문회 영상의 내레이터는 화면 밖 해설자이지만 중심에 자리한 등장인물로 실험적인 화면해설자의 역할을 합니다. 과학기술의 문해력을 높이기 위한 접근성뿐 아니라 비장애인과 장애인 모두 함께하는 ‘음성해설 전시 가이드 투어’ 프로그램이 동반되는 작품은 음성해설과 오픈자막을 포함해 ‘더 많은 모두를 위한 예술’을 향해 나아가는 새로운 시도입니다.

Bang & Lee explore a future shaped by superintelligent AI, drawing inspiration from their collaboration with Dr. Jongkil Park (Senior Researcher at KIST, Ph.D. in Neuromorphic Engineering). Building upon Eyeshine (2023), which introduced an AI Prophet and an AI Agent in dialogue, the project progresses through The Hearing on AI Prophet (2023) and The Reconstruction of the Incident (2023), culminating in The Prophet in the Darkness (2023) at the Total Museum of Contemporary Art, Seoul.

Amid growing debates on AI, this project critically examines ethical dilemmas, predictive errors, and the nature of human reasoning, creativity, and memory. Combining poetic texts, narrated sound, drawings, paintings, 3D-printed ceramics, and miniatures with multi-channel 3D animation, the exhibition constructs a virtual tribunal, where audiences take on the role of active participants.

Set in a future where autonomous AI systems make all decisions and are legally recognized as “Electronic Persons,” the AI Prophet ensures stability through perfect predictions. Unlike human-led AI hearings, this AI-hosted tribunal serves as a thought experiment, featuring digital human characters—the AI Prophet, AI Agent, and AI Chairman—who interact with a narrator, while the audience assumes the role of spectators.

By envisioning an era of total AI autonomy, the project interrogates technology’s influence, ethical challenges, and the paradoxically human traits embedded in artificial intelligence. The exhibition also features an experimental narrator, both outside the frame and central to the narrative, enhancing accessibility and engagement. Accompanied by audio descriptions, open captions, and an accessible guided tour, it expands the reach of art, fostering inclusion for all audiences.

만든 사람들

예술가 방앤리
과학자 박종길

프로젝트 매니저 서미선
협력 큐레이터 이보름
전시 음성해설 및 가이드 투어 서수연
번역 및 감수 구태훈, 리처드 토마스
그래픽디자인 장원호, 홍앤장예술사무소
영상촬영 및 아카이브 슈가솔트페퍼, 봄
영상장비 미지아트

토탈미술관
책임 큐레이터 신보슬
코디네이터 김민선, 김영은, 윤현민
도움 이예은

주최 및 주관 방앤리 스튜디오
후원 한국문화예술위원회, 예술과기술융합지원
본 작품은 2023년 한국문화예술위원회 예술과기술융합지원사업의 지원을 받아 제작되었습니다.

Created by

Artist Bang & Lee
Scientist Jongkil Park

PM Misun Seo
Associated Curator Borum Lee
Audio Description and Accessible Guided Tour Sooyeon Seo
Translation and Proofreading Taehun Gu, Richard Thomas
Graphic Design Wonho Jang, HnJsamuso
Filming Production and Archive sugarsaltpepper, Bom
Video Equipment Miji Art

Total Museum of Contemporary Art
Chief Curator Boseul Shin
Coordinator Minseon Kim, Youngeun Kim, Hyunmin Yoon
Special Thanks to Ye Eun Lee

Organizing & Hosting Bang & Lee Studio
Support Arts Council Korea, Art & Tech
This project is supported by ARKO’s “2023 Art and Technology Convergence Support Grant Program.”

방앤리, 어둠 속의 예언자, 2023
이미지 제공: 작가 및 토탈미술관
사진: 노세환

Bang & Lee, The Hearing on AI Prophet, 2023
Image courtesy of the artist and Total Museum of Contemporary Art
Photo by Sean Sehwan Roh