생성 AI발 가짜 뉴스 범람 시대,
인공지능 활용해 판별 가능

생성 AI 기술 발전으로 기사 작성, 이미지 및 동영상 작업이 쉬워지면서 가짜 뉴스 및 콘텐츠 제작이 증가세를 보이고 있다. 실제 사례를 통해 가짜 뉴스가 사회·경제·정치적으로 어떤 영향을 미치는지 다루고 이에 대응할 수 있는 방안에 대해 살펴본다.

최근 생성 AI의 시대가 열리면서 외부 강연이나 기고를 의뢰받는 일이 많아졌다. 올해 초까지만 해도 관련 강의에 특별하게 주제를 정해주거나 방향성을 요구하는 경우는 많지 않았다. 생성 AI 분야가 생소했고 신기하기만 했던 시기였기 때문이다. 주로 AI 관련 일반적인 상식이나 생성 AI의 종류와 활용법 등에 대해서만 다뤄도 모두 만족했다. 당시에는 생성 AI가 모든 일이든 해낼 것 같고, 훌륭한 기능들을 기반으로 향후 인류의 미래에 도움만 될 것 같은 환상이 있었다.

하지만 시간이 지나면서 AI의 부정적인 사례와 잘못 사용할 경우 발생할 리스크에 대한 경고 등이 언급되고 있다. 이로 인해 AI 활용에 제한이 생기고 사람들은 인공지능의 부정적인 면에 더욱 많은 관심을 가지게 됐다.

필자도 앞선 연재를 통해 생성 AI 관련 소송이나 각 나라별 규제 움직임에 대해 언급했다. 그래서인지 요즘 AI 발전에 따른 리스크나 부정적인 요소, 법적인 이슈 등에 대한 강의나 질문이 늘어났다. 최근 관련 주제로 자주 다뤄지는 것 중 하나가 바로 생성 AI와 가짜 뉴스에 대한 내용이다.

가짜 뉴스 제작에 활용되는 AI 기술

AI와 가짜 뉴스는 서로 밀접한 관계를 가지고 있다. 가짜 뉴스가 꼭 AI 를 통해 제작되고 유포되는 것은 아니지만 생성 AI를 활용해 가짜 뉴스를 제작하는 과정이 너무 쉬워진 것은 사실이다. 누구나 30분이면 가짜 이미지나 영상을 만들고 이를 활용한 콘텐츠를 제작할 수 있게 됐다.

챗GPT 등을 활용해 거짓 기사를 만들고 여기에 그럴듯한 숏폼이나 클립 비디오 등 영상을 더해 SNS에 올리면 순식간에 전세...기사전문보기