챗GPT의 조언에 따라 소금 대신 다른 화학물을 섭취한 남성이 편집증과 환각 등 정신질환에 걸려 입원했다.

소금 이미지

14일 피플 등 외신에 따르면 60대 남성이 챗GPT와 상담한 후 브롬중독에 걸린 사례가 보고됐다.

이에 따르면 60대 A씨는 소금(염화나트륨)의 부작용에 대한 글을 읽은 후 식단에서 소금을 제거하는 방법에 대해 챗GPT와 상담했다.

이후 A씨는 3개월 동안 소금 대신 브롬화나트륨을 복용하기 시작했다.

브롬화나트륨은 수영장 소독, 농업용 살충제 등에 사용되는 화학물로 20세기 초에는 진정제로 사용되기도 했다.

이후 A씨에게는 편집증과 환각 등의 증상이 나타났고, 그는 이웃이 자신을 독살하려 한다고 의심하고 병원을 찾았다.

그는 병원에서 브롬화물 중독 판정을 받았으며 3주간 입원 후 증상이 완화돼 퇴원했다.

사례 연구에 따르면 A씨가 챗GPT와 상담한 후 이 같은 결과를 얻었다는 것을 알고 연구진이 챗GPT에 이와 유사한 질문을 했을 때 챗GPT는 브롬화물이 포함된 답변을 생성한 것으로 알려졌다.

연구진은 "챗GPT의 답변에는 사용 맥락이 중요하다고 나와 있었지만 구체적으로 건강 상 위험성에 대해 경고하지 않았고 소금을 대체하는 물질을 찾는 이유에 대해 물어보지도 않았다"고 밝혔다.

연구진은 "환자가 염화나트륨의 대체물을 찾고 있을 때 의료 전문가가 브롬화나트륨을 언급할 가능성은 매우 낮다"며 "AI가 과학자와 대중을 연결하는 다리를 할 수 있는 도구이기도 하지만 맥락에서 벗어난 정보를 퍼트릴 위험도 갖고 있다"고 경고했다.