제목: ChatGPT의 정신건강 연구를 이끈 연구 책임자, OpenAI를 떠난다
요약 OpenAI의 안전 연구를 주도하는 모델 정책 팀의 리더 안드레아 Vallone가 연말에 OpenAI를 떠난다. 임시로 Vallone의 팀은 Johannes Heidecke의 안전 시스템 부서에 직보하게 되고, OpenAI는 후임자를 찾는 중이다. 최근 몇 달간 OpenAI는 distressed 사용자에 대한 대응 개선에 집중해 왔고, 10월 발표 보고서는 매주 수십만 명의 사용자가 위기 징후를 보며, 100만 명이 넘는 대화가 자살 계획이나 의도 가능성의 징후를 포함한다고 밝힌 바 있다. GPT-5 업데이트로 바람직하지 못한 응답을 65~80% 줄이는 데 성공했다고도 전했다. Vallone은 LinkedIn에서 모델이 감정적 의존이나 초기 정신건강 문제 징후에 직면했을 때 어떻게 반응해야 하는지에 대한 연구를 이끌었다고 남겼다. 한편 August의 조직 개편으로 모델 행동 팀의 일부가 재편되었고, Joanne Jang은 이 역할을 떠났으며 남은 팀은 Max Schwarzer의 지휘 아래로 moved되었다.
자세한 내용
- Vallone의 퇴사는 내부적으로 이미 발표되었으며, OpenAI 측 대변인 Kayla Wood가 퇴임을 확인했다. 후임자 찾기가 진행 중이며, 임시로 Vallone의 팀은 Johannes Heidecke(회사의 안전 시스템 책임자) 아래 보고하게 된다.
- OpenAI는 챗봇의 위기 상황 대응과 안전성 연구에 대한 관심이 커지는 가운데, 챗GPT가 distress 사용자에게 어떻게 반응해야 하는지에 대한 연구를 주도해 왔다. 모델 정책 팀이 이 분야의 핵심 작업을 이끌고 있다.
- 10월 보고서에 따르면 매주 수십만 명의 ChatGPT 사용자가 위기 징후를 보일 수 있으며, 100만 명이 넘는 대화가 자살 계획이나 의도 가능성의 명시적 징후를 포함한다고 밝혔다. 또한 GPT-5 업데이트를 통해 이러한 대화에서 바람직하지 못한 응답의 비율을 65~80%까지 줄였다고 한다.
- Vallone은 LinkedIn에 올린 글에서 “감정적 과잉 의존이나 초기 정신건강 문제 징후에 직면했을 때 모델이 어떻게 반응해야 하는지에 관한 연구를 이끌었다”고 썼다.
- 이탈의 배경에는 OpenAI의 안전 연구 및 모델 반응 개선을 둘러싼 최근의 구조 개편과 논쟁이 함께 작용한 것으로 보인다. 8월에 모델 행동 팀의 재편이 있었고, 그 팀의 전 책임자 Joanne Jang은 다른 팀으로 이동하거나 새로운 연구 방향으로 전환했다. 남은 인원은 Max Schwarzer의 지휘 아래 재배치되었다.
- OpenAI는 인터뷰나 추가 코멘트에 즉답하지 않았다.
원문 링크