AI가 촉발한 ‘데이터 근친교배’…‘가짜 트래픽’ 투성, ‘슬롭’만 넘친다 [AI 딥다이브]

출처:매경이코노미

링크:https://v.daum.net/v/20260226210302509

요약:이 기사는 ‘죽은 인터넷 이론’을 주제로 한다. 죽은 인터넷 이론이란 정보의 바다이자 자유로운 토론의 장이었던 인터넷이 AI가 만든 가짜 트래픽과 저질 콘텐츠에 의해 오염되고 있다는 이론이다. 스팸이 메일함과 문자 메시지를 점령했듯, AI가 배설한 저질 콘텐츠가 인터넷을 잠식하고 있다는 경고가 쏟아진다. 죽은 인터넷 이론이 제기된 초반에는 허무맹랑한 이론으로 취급받았지만, 최근에 인터넷상의 조회 수와 콘텐츠의 상당 부분이 자동화된 알고리즘과 AI에 의해 생성되고 인간의 순수한 소통은 갈수록 자취를 감추거나 봇 트래픽에 밀려나게 되는 일이 빈번해져 AI 전문가들도 잇따라 우려를 제기할 만큼 심각해지고 있다. 상황이 이렇게 되자 AI가 인터넷을 잠식해가는 현상에 대한 우려의 목소리가 갈수록 높아지고 있다. 더하여 AI가 AI의 배설물을 먹고 크는 이른바 ‘데이터 근친교배’가 진행되면서, 정보의 다양성은 사라지고 편향과 오류만 증폭되는 ‘모델 붕괴’가 가시화된 것 아니냐는 우려도 제기된다. 모델 붕괴란 AI가 인간이 아닌, AI가 생성한 데이터를 지속적으로 재학습하며 점차 콘텐츠 품질이 저하되는 현상을 말한다. 이는 AI가 알고리즘상 가장 평균적이고 무난한 답변을 하는 경향에 기인한다. 이 현상이 과해지면 세대를 거듭할수록 AI 답변은 단순해지는 데다, AI 환각으로 인해 잘못된 정보도 확대 재생산될 가능성이 높다. 사실에 기반한 다양성 대신, 환각이 섞인 뻔한 답변만 남게 되는 미래, AI가 만든 콘텐츠가 범람하면 일어날 것으로 예상되는 디스토피아다. 이러한 문제를 막기 위해, 즉 인터넷이 다시 생명력을 얻게 하기 위해선 우선 인간과 AI가 만든 콘텐츠를 구분할 수 있도록 표시해 인간 소외를 막고, 가짜 콘텐츠의 무분별한 범람을 차단해야 한다는 주장이 나온다. 인간만이 만들 수 있는 고차원적인 콘텐츠를 확산시키려는 움직임도 포착되고 있다.

내 생각:최근 많은 AI가 상용화되고 창작 부문에서도 활용되고 있다는 걸 느끼고 있었는데 기사에서 그로 인해 발생할 수 있는 사회적 문제들을 제시해 새로운 걸 알게 되는 시간이었다. 위 기사에서 다룬 죽은 인터넷 이론과 모델 붕괴 현상 등이 실제로 일어나고 있다는 걸 몸소 느꼈던 거 같아 그로 인해 발생할 수 있는 디스토피아가 너무 무섭게 느껴졌다. 우리 삶을 편안하게 만들기 위해서 생성되고 사용되는 AI가 우리 삶에 위협이 될 수도 있다는 걸 알 수 있게 되어서 인류의 욕심이 과했던 걸까 하는 생각마저 들었다. 앞으로 AI로 발생할 수 있는 많은 문제들을 해결할 수 있는 방안이 만들어져서 AI와 인간이 평화롭게 공존할 수 있으면 좋겠다.