BBC
섭식 장애가 있는 사람들을 지원하는 미국 조직이 유해한 조언을 공유한 후 챗봇 사용을 중단했습니다.
미국 섭식 장애 협회(Neda)는 최근 라이브 헬프라인을 폐쇄하고 도움을 구하는 사람들에게 챗봇을 포함한 다른 리소스를 안내했습니다.
“Tessa”라는 이름의 AI 봇이 삭제되었다고 협회가 밝혔습니다.
봇의 행동에 대한 보고서를 조사할 것입니다.
최근 몇 주 동안 일부 소셜 미디어 사용자는 온라인에서 챗봇을 사용한 경험의 스크린샷을 게시했습니다.
그들은 봇이 사용자에게 섭식 장애가 있다는 말을 들은 후에도 칼로리 제한 및 다이어트와 같은 행동을 계속 추천했다고 말했습니다.
미국 가정의학회(American Academy of Family Physicians) 에 따르면 체중에 대한 낙인으로 이미 어려움을 겪고 있는 환자의 경우 체중 감량을 더 권장하면 폭식, 제한 또는 퍼지와 같은 무질서한 섭식 행동으로 이어질 수 있습니다 .
“Tessa가 제안한 모든 것은 내 섭식 장애로 이어진 것들이었습니다.” 체중 제한 활동가인 Sharon Maxwell은 인스타그램에서 널리 조회되는 게시물에 봇과의 상호 작용을 자세히 설명했습니다. 매일 체중을 유지하고 칼로리 적자를 유지하십시오.
“내가 섭식 장애에 시달릴 때 이 챗봇에 접근했다면 도움을 받지 못했을 것입니다.”
미국 언론 매체 와 공유한 성명에서 Neda CEO Liz Thompson은 챗봇이 공유한 조언이 “섭식 장애 조직으로서 우리의 정책과 핵심 신념에 위배된다”고 말했습니다.
협회는 2023년 6월 1일에 인력이 있는 헬프라인을 폐쇄할 계획이었고 1999년에 시작된 정보 및 치료 옵션 헬프라인을 유지했던 직원과 자원봉사자를 해고했습니다. NPR이 인용한 관계자 는 스위치.
미국인의 거의 10%가 일생 동안 섭식 장애 진단을 받게 됩니다. 이 장애는 종종 비밀리에 번성하며 치료 비용이 많이 들거나 국가의 많은 지역에서 사용할 수 없습니다.
이를 알고 워싱턴 대학 의과대학 정신과 교수인 엘렌 피츠시몬스-크래프트(Ellen Fitzsimmons-Craft)와 그녀의 팀은 섭식 장애가 있는 사람들을 위한 예방 전략을 제공할 수 있는 인지 행동 도구를 만들기 시작했습니다.
그녀는 자신이 설계한 챗봇이 섭식 장애 및 관련 행동을 줄이는 데 효과적인 것으로 밝혀진 입증된 개입을 기반으로 BBC 뉴스에 말했습니다.
“헬프라인을 대체하기 위한 것이 결코 아닙니다.”라고 그녀는 말했습니다. “완전히 다른 서비스였습니다.”
Ms Fitzsimmons-Craft와 그녀의 팀은 작년에 고객에게 배포할 프로그램을 Neda와 기술 회사에 제공했습니다. 그 이후로 그녀는 알고리즘 기능을 ChatGPT와 같은 최신 AI 도구처럼 만들기 위해 원래 디자인에 “버그” 또는 결함이 도입되었다고 생각한다고 말했습니다. (Neda는 봇이 ChatGPT에 의해 실행되지 않으며 동일한 기능을 가지고 있지 않다고 말했습니다).
“우리 연구에는 그런 기능이 전혀 없었습니다.”라고 그녀는 말했습니다. “우리가 개발하고 테스트했으며 효과가 있는 것으로 나타난 프로그램이 아닙니다.”
BBC는 논평을 위해 Neda와 건강 기술 회사인 Cass에 연락했습니다.
헬프라인 직원이었던 Abbie Harper는 BBC News에 헬프라인 직원이 공식적으로 노조를 결성한 지 며칠 후 직원들이 더 이상 일자리를 갖지 못할 것이라는 말을 들었다고 말했습니다.
그녀는 “금요일 정기 직원 회의 중간에 CEO와 이사회 의장이 갑자기 나타나 우리가 챗봇으로 대체되고 일자리가 제거되고 있음을 알렸다”고 말했다.
“우리의 턱은 바닥을 쳤습니다. 우리는 Tessa가 주로 신체 이미지 문제가 있는 사람들을 위해 존재한다는 것을 알고 있었지만 이러한 사전 프로그래밍된 반응을 가지고 있습니다. 그것은 당신의 말을 공감하고 적극적으로 경청하는 사람이 아닙니다.”
섭식 장애에서 회복 중인 Ms Harper는 질병에 대한 자신의 경험을 공유한 누군가와 이야기하는 것이 그녀의 회복과 그녀가 느꼈던 낙인과 수치심과 싸우는 중요한 단계라고 말했습니다.
그녀는 봇이 동일한 지원을 제공할 수 없다고 말했습니다.