제목: AI 리더들, AI로 보조되는 생물무기에 대한 강력한 보호 대책 촉구
요약:
- AI 업계의 주요 경쟁사들이 공통의 목표를 모아 미국 의회에 더 강력한 생물보안 대책을 촉구하는 공개 서한을 보냈다. 구체적으로 합성 DNA와 RNA의 온라인 주문을 선별하고 위험한 서열을 차단하도록 규제를 제정하자는 내용이다.
- 서명자에는 Anthropic의 다리오 아모데이, OpenAI의 샘 알트만, Microsoft의 무스타파 설레이마니 등이 포함되며, 메타의 알렉산드르 왕, 구글 딥마인드의 데미스 한사비스도 참여했다. 이 외에도 다수의 과학자, 안보·정책 전문가, 바이오기업 대표들이 동참했다.
- 현황은 현재 대형 공급자들이 일부 자발적으로 선별을 수행하고 있지만, 이를 의무화하려면 법적 규제가 필요하다고 제안한다. 또한 주문 기록 보관의 강화를 통해 위협을 추적할 수 있어야 한다고 요구한다.
자세한 내용:
- 배경과 취지
- AI 기술의 발전과 합성 생물학의 발전이 맞물리면서 생물학적 위협이 증가할 수 있다는 우려 속에, 업계 간 이견이 많았으나 이번 서한으로 공통의 보호 대책 필요성이 강조됐다.
- 공개 서한은 미국 의회에 정책 입법을 요청하는 형태로, 합성 DNA와 RNA 구매를 온라인으로 주문 가능한 물건으로 간주하고, 이러한 구매를 서열 검색으로 스크리닝하도록 의무화하는 규칙 제정을 촉구한다.
- 주요 서명단 및 참가자
- Anthropic의 다리오 아모데이, OpenAI의 샘 알트만, Microsoft의 무스타파 설레이마니가 서명에 이름을 올렸다.
- 메타의 AI 최고책임자 알렉산드르 왕, 구글 딥마인드의 데미스 한사비스도 참여했다.
- 서한은 2024년 노벨 화학상 수상자인 데미스 한사비스의 AI 기반 단백질 예측 연구를 언급하며 서명의 신뢰성을 강조했다.
- 서한은 또한 바이오 기술 기업인 Twist Bioscience와 Ansa Biotechnologies, 다수의 과학자, 안보·정책 전문가들이 참여했다고 밝힌다.
- 이 서한은 Foundation for American Innovation과 Institute for Progress 두 싱크탱크가 주도적으로 조직했다는 전언이 담겨 있다.
- 제안 내용과 기대 효과
- 합성 DNA와 RNA를 판매하는 기업이 구매를 서열 기반으로 스크리닝하고, 위험한 서열이 탐지될 경우 차단하는 의무를 부과하자는 것.
- 이미 일부 대형 공급자들이 자발적으로 선별 작업을 수행하고 있으나, 이는 비강제적이다. 따라서 법적 강제성 확보가 필요하다는 점을 강조한다.
- 모든 주문에 대해 상세 기록을 보관해 초기 스크리닝을 벗어난 위협을 추적할 수 있어야 한다고 지적한다.
- 맥락과 우려
- 합성 생물학의 발전으로 위험한 생물체를 설계하거나 오래된 병원체를 부활시키는 위험이 커질 수 있으며, 더 저렴하고 접근이 쉬워진 생물학 도구가 이 위험을 악화시킬 수 있다는 점이 주요 관심사다.
- AI 도구가 위험한 서열 설계, 제조사 주문, 비전문가가 아닌 일반 사용자의 접근까지 악용될 가능성을 높일 수 있다는 우려가 제기된다.
- 서한의 톤
- 기술 변화의 속도가 빨라 손실 위험이 커지기 때문에 시급하다는 점, 이해관계가 자주 다투는 상황에서도 이번 경우처럼 광범위한 합의가 이뤄졌다는 점이 강조된다.
- 정책 입법자들이 이 기회를 놓치지 않고 결정적 조치를 취하길 바란다고 서한은 맺는다.
- 추가 맥락
- 이 논의는 합성 DNA와 RNA의 온라인 주문 시스템이 이미 존재하는 맥락에서, 의무적 스크리닝과 기록 관리가 제도화될 경우 업계 전반의 생물보안 체계를 강화하는 방향으로 작용할 수 있다.