브뤼셀, 오픈AI 및 앤트로픽과 AI 안전 관련 별도 회담 개시

월요일에 유럽연합 집행위원회는 오픈AI와 앤트로픽과 인공지능 모델에 대해 논의 중이라고 밝혔지만, 두 논의는 전혀 다른 양상을 보인다.

브뤼셀에 있는 유럽연합 집행위원회 대변인 토마스 레니에는 기자들에게 오픈AI가 최신 모델에 대한 접근을 제공한 최초의 기업이라고 밝혔습니다. 집행위원회는 이러한 움직임을 선제적인 조치라고 평가했습니다.

반면 앤트로픽은 관계자들과 네다섯 차례 만났지만, 모델 접근에 대한 논의는 아직 이루어지지 않았습니다.

레니에는 브리핑에서 "한쪽(OpenAI)은 회사가 적극적으로 접근 권한을 제공하겠다고 제안했고, 다른 쪽(Anthropic)은 좋은 교류 관계를 유지하고 있지만, 아직 접근 권한 확보 가능성을 예측할 단계는 아니다"라고 말했다 .

각국 정부는 첨단 인공지능에 대한 규제를 강화하고 있다

이 시기는 우연이 아닙니다. 전 세계 정부가 첨단 AI 시스템에 주목하고 있습니다.

올해 EU의 AI법이 단계적으로 시행되기 시작했습니다. 이 규정은 유럽에서 활동하는 AI 제공업체에 위험 기반 규칙을 제공합니다.

기업들은 제품을 시장에 출시하기 전에 정부에 모델을 검토받을 의무는 없지만, 위원회가 향후 출시될 제품에 대해 더 자세히 알고 싶어 한다는 것은 분명합니다.

OpenAI와 Anthropic은 최첨단 인공지능 분야에서 활동하는 미국 최대 규모의 두 기업입니다.

인공지능 시스템의 능력이 계속 향상됨에 따라 규제 당국은 그것이 실제로 무엇을 의미하는지 파악하기 위해 분주히 움직이고 있습니다.

유럽연합 집행위원회의 시청각 자료 서비스는 5월 11일 정오 브리핑 의제 중 "사이버 보안" 항목에 OpenAI와 Anthropic의 논의 내용을 포함시켰습니다. 이는 국방 정책 및 이민 문제와 함께 나열되어 있습니다.

워싱턴주는 석방 전 신원조회 의무화 방향으로 나아가고 있다

되는 동안 브뤼셀에서 협상이 진행워싱턴이 지시를 내릴 수도 있다.

백악관은 가장 강력한 인공지능 모델들을 공개하기 전에 검토하는 방안을 검토 중입니다.

앤트로픽이 자체 개발 모델인 미토스(Mythos)의 내부 테스트에서 대규모로 악용 가능한 소프트웨어 버그를 발견할 수 있다는 사실이 드러나자, 해당 모델에 대한 광범위한 접근을 보류한 후, 이러한 아이디어는 탄력을 받았습니다.

영국 AI 안전 연구소는 지난 4월 오픈AI의 GPT-5.5를 평가할 때 비슷한 문제를 발견했습니다.

바에 따르면, 해당 모델은 맞춤형 가상 머신을 역설계하여 인간 전문가보다 더 빠르게 복잡한 문제를 해결했습니다 Cryptopolitan 이전에 보도한.

이 글을 읽고 계시다면 이미 앞서 나가고 계신 겁니다. 뉴스레터를 구독하시면 더욱 유익한 정보를 받아보실 수 있습니다.