세계 최초의 AI 전쟁의 내막: 표적 설정 오류, 허위 정보, 그리고 책임 소재의 공백

미국과 이스라엘의 이란 공습 첫날, 이란 남부 도시 미나브의 한 학교가 폭격을 받았습니다. 학생들을 포함해 175명 이상이 사망했습니다. 워싱턴과 텔아비브 모두 무슨 일이 일어났는지 밝히지 누구도 책임을 지지 않았습니다. 여기서 계속해서 제기되는 질문은 바로 이것입니다. 인공지능 시스템이 엉뚱한 목표물을 공격한 ?

첫 24시간 동안 미군은 약 1,000곳을 공격했는데, 이는 시간당 약 메이븐 스마트 시스템 필요했던 작업을 수행 . 2024년 말까지 미국은 소비자용 AI 챗봇에 사용되는 것과 같은 대규모 언어 모델을 메이븐 시스템에 탑재 활용 한 최초의 전쟁 중 하나였습니다 .

미군은 대해 여전히 밝혔습니다 하지만 인공지능 시스템이 미사일 발사에 어떤 했는지 밝히지 않았습니다 .

뉴욕 타임스는 일찌감치 해당 시스템이 오래된 기반으로 작동 . 해외 특파원 dent 10년 전 정보 에 근거했을 수 있다 에서 무료 공격 대상 지역 중 한 곳에 "운동장이 있는 학교"가 있는 것을 알 수 있었을 것이라고 지적했습니다.

컴퓨터 과학자 안 토티 응우옌은 AI 비전 시스템이 오류를 일으키는 원인을 연구했습니다. 그의 논문 "비전 언어 모델은 맹목적이다: 상세한 시각적 특징을 단어로 변환하는 데 실패함"에서는 이러한 시스템이 두 구조물이 서로 가까이 위치할 때, 즉 소프트웨어가 어느 것이 어느 것인지 판단해야 할 때 종종 오류를 일으킨다는 사실을 밝혀냈습니다.

뉴욕 타임스가 공개한 위성 사진은 샤자라 타이예베 초등학교가 미나브에 있는 이란 혁명수비대(IRGC) 기지 바로 옆에 위치해 있음을 지적한 .

전직 해군 장교이자 안보 및 신기술 센터의 선임 연구원인 에밀리아 프로바스코는 팟캐스트 ' "명령을 내린 지휘관에게 책임이 있다"며 " 군대는 원래 그렇게 운영 된다 "고 말했습니다. 그녀는 인공지능 시스템이 어떻게 해답에 도달했는지 알 수 없는 '블랙박스 문제'는 "해결된 문제가 아니라 지속적인 연구 분야"라고 덧붙였습니다.

전쟁 전, 메이븐 핵심 기술을 개발한 국방부와 두 가지 사안을 두고 계약 분쟁을 벌였습니다. 하나 는 지능이 생사를 가르는 결정에 충분히 신뢰할 수 있는지에 대한 문제였고, 다른 trac 는 인공지능을 이용해 흩어진 데이터들을 연결하는 것이 대규모 감시 도구로 변질되는지에 대한 문제였습니다.

프로바스코는 두 가지 우려 사항 모두 타당하다고 말하면서 도 "민간 기업이 군의 작전 " 고 지적했습니다

홀랜드 미셸은 대화가 자꾸 최악의 로 말했습니다 . 인간의 개입 없이 기계 가 목표물을 골라 . 그는 그러한 위험이 실제로 존재 지금 당장 일어나고 있는 일은 아니라고 .

그는 "더 어렵고 시급한 과제 는 AI 시스템을 더욱 투명하게 만들고, AI의 결과물에 의존하는 사람들이 기계가 제시하는 것에 단순히 따르는 것이 아니라 진정으로 정보에 입각한 결정을 내릴 수 있도록 보장하는 것"이라고 말했다.

AI가 생성한 전쟁 콘텐츠 또한 온라인에서 빠르게

BBC Verify는 수억 건의 조회수 를 trac 인공지능으로 제작된 분쟁 관련 영상과 조작된 위성 이미지를 추적했습니다

퀸즐랜드 공과대학교의 디지털 미디어 연구원인 티모시 그레이엄은 " 규모가 정말 심각하며 , 이번 전쟁으로 더 이상 이를 외면할 수 없게 되었습니다 . "라고 말했습니다. 그는 또한 " 과거에는 전문적인 영상 제작이 필요했던 작업이 이제는 AI 도구를 이용해 몇 분 만에 가능해졌습니다. 실감 나는 합성 분쟁 영상을 만드는 데 있어 장벽이 사실상 무너진 것 ."

X는 AI가 제작한 전쟁 영상을 출처 표기 없이 게시하는 크리에이터에 대해서는 수익 지급을 중단 하겠다고 밝혔습니다 " X가 이 문제를 심각하게 인식하고 있다는 주목할 만한 신호 . 메타와 틱톡은 같은 조치를 취할 계획인지 묻는 질문에 답변을 .

나만의 은행이 되는 방법 에 대한 무료 영상을 시청하세요.