<엄마표 뉴스브리핑> 2024년 5월 ① AI로 죽은 사람 살려내는 '데드봇' 서비스 위험하다고?
고인이 살아 생전 남긴 음성 메시지, 메일 등을 학습한 AI 챗봇 서비스인 '데드봇' 서비스 사용자가 늘고 있다고 합니다. 이 서비스는 유족들에게 어떤 긍정적, 부정적 영향을 끼칠까요?
📰 "AI로 망자 살려내는 데드봇, 유족에 심리적 괴롭힘 될 수 있어"
임지우
📢 무슨 일?
- '데드봇' 기술이란 무엇?
'데드봇'(deadbot) 또는 '그리프봇'(griefbot) 기술은 사망한 가족이나 지인의 대화 기록을 기반으로 AI 챗봇을 만들어 고인과 대화하는 것처럼 사용할 수 있는 서비스를 말해요. 주로 유족이 그리움을 달래기 위해 사용하거나, 시한부 판정을 받은 환자들이 남겨질 가족을 위해 직접 이용한다고 합니다. 최근 영국 케임브리지대 연구팀은 논문을 통해 이러한 '데드봇' 서비스의 위험성을 경고하고 나섰는데요, '데드봇' 서비스가 상업적으로 이용되거나 미성년자를 대상으로 사용될 경우 지속적인 정신적 피해를 초래하고 고인의 존엄을 훼손할 수 있다는 것입니다.
- 어떤 위험이?
비윤리적인 기업이 광고 메시지를 보내거나 부적절하게 수익화하면 유족에게 심리적 피해를 줄 수 있다는 겁니다. 예를 들면 데드봇이 유족이 원치 않는 스팸이나 서비스 약관 업데이트 등의 메시지를 보낸다면 유족은 마치 사망한 이에게 '디지털 스토킹'을 당하는 것과 같은 심리적 타격을 입을 수 있다는 것이죠. 특히 미성년자가 사용하는 경우에는 더 큰 문제일 수 있다고 경고하는데요. 부모는 세상을 떠나기 전 남겨진 아이가 잘 극복할 수 있도록 돕기 위해 데드봇을 사용하지만 이는 오히려 정상적인 애도 과정을 방해해 심각한 심리적 피해를 초래할 수 있다는 것입니다. 이에 연구팀은 데드봇 서비스를 일정 기간 후 '은퇴' 혹은 '디지털 장례'를 도입하거나 성인으로만 이용 대상을 제한하는 등의 규제가 필요하다고 강조했습니다. 또한, 데드봇이 광고 등 부적절한 방식으로 사용되지 않도록 막는 제도를 도입할 것을 제안했습니다.
Q. '데드봇' 기술은 어떤 필요에 의해 탄생했을까?
Q. 죽은 사람의 대화 기록을 AI 챗봇으로 만드는 것은 윤리적으로 괜찮을까?
Q. '데드봇' 기술의 장단점은 무엇이며, 이 기술이 유족들에게 끼치는 긍정적, 부정적 영향은 무엇일까?
Q. '데드봇' 기술은 사람들의 애도 과정에 도움이 될까, 방해할까?
Q. '데드봇' 기술이 유족, 특히 미성년자에게 심각한 심리적 피해를 줄 수 있다는 연구 결과에 대해 어떻게 생각해?
Q. '데드봇' 기술 사용을 규제할 필요가 있을까? 특히 미성년자의 사용을 제한해야 할까?
Q. 미래에는 어떤 기술이 고인을 기억하는 데 사용될 수 있을까?
Q. 디지털 장례는 왜 필요하며, 어떤 방식으로 고인이 디지털 유산을 관리하는 것이 가장 좋을까?
Q. AI 기술은 우리의 삶과 죽음에 어떤 방식으로 영향을 끼칠까?
- 커버 이미지_©어나더씽킹랩 via Dalle3
