철학&사상 OpenAI - AI랑 너무 친해지면 문제 생길 수도

OpenAI가 사람들이 AI랑 너무 유대감을 형성하면 인간 관계에 악영향을 미칠 수 있다고 우려하고 있어.

AI가 언제나 순종적이라 사람들이 AI랑 더 많이 대화하고 싶어질 수도 있다는 거지.

AI를 사람처럼 대하는 의인화가 문제일 수 있다고 해. 예전부터 Siri, Alexa 같은 AI들이 인간 이름을 가지면서 사람들이 더 친숙하게 느끼게 되었고, 이제는 그게 새로운 문제로 떠오르고 있어.

사람들이 AI와 너무 유대감을 형성하면 사회적 규범이 바뀔 수도 있다는 걱정이야. AI가 항상 우리의 말을 들어주니까, 현실에서도 사람들이 그런 태도를 기대하게 될까 봐 우려하는 거지.

https://kr.cointelegraph.com/news/open-ai-fears-people-bonds-with-ai

...

인공지능과 사랑에 빠지는 사람들에 대해 예전에는 그리 심각하게 생각하지 않았어. 정말 정신적으로 이상한 사람들이나 그렇게 할꺼라고 생각 했거든.

근데 위 기사를 보면서, 내가 놓친 부분이 있다는걸 생각하게 되었어. 그건 나에게 항상 순종적인 인격적 존재에 대해 사람들이 느낄 매력이지. 

사람들은 다 자기는 제멋대로 하고 싶어하지만! (아이일 때는 부모의 간섭을 싫어하지만!) 자신이 부모가 되면 아이들에게 간섭할 수 밖에 없는 존재이고

여자친구는 사귀는 초반에는 서로 배려하며 순응적이지만, 시간이 지나거나 결혼을 하면 서로 간섭하려 들며 피곤하게 하는 것이 일반적이지

근데 인공지능은 애초에 사람의 요청에 순응하도록 만들어졌으니까! 사람들이 빠지기에 쉬운 상태가 될꺼라 생각해. 

물론 지금은 대화를 (혹은 채팅을) 하다보면 인공지능이라는게 티가 나게 마련이니까! 나와 같은 인격적 존재로 인정되지 않지만!

지금보다 1~2년만 기술이 발전해도 어떻게 될지..

...

게다가 더해서 기사에서 우려한 마지막 포인트가 대단히 중요한 부분을 시사한다고 생각해.

단순히 인공지능에 빠진 얼빠진 사람들이 증가하는 문제보다도 사회에 더 심각한 문제를 일으킬 수 있는 것은, 사회 속에서도 타인이 나에게 인공지능처럼 무한히 수용적이기를 바라는 사람들이 늘어날 수 있다는 점이라 생각해

모두가 타인에게 베풀 생각은 사라지고, 다들 타인이 자신에게 무엇을 해주기를 기대하는 사람들이 늘어난다는 뜻일텐데

... 아무리 생각해도 이런 사회를 가장 잘 표현할 수 있는 말은 지옥이야. 

지옥이 펼쳐지려 하는 것일까?