[파이낸셜뉴스] 김태은 대표변호사, 생성형 AI 허위정보와 여론조작 대응을 위한 제도적 과제 제언
Article posted in 2026-08-06 10:47:28 | VEAT
법무법인 비트 김태은 대표변호사의 파이낸셜뉴스 칼럼 「진화하는 여론조작」이 게재되었습니다.
이번 칼럼은 생성형 인공지능(AI)이 정보의 생산과 소비 방식을 변화시키는 과정에서 나타나는 허위정보와 조직적 여론조작의 위험을 살펴보고, 이에 대응하기 위한 제도적·입법적 과제를 다루고 있습니다.
과거의 여론조작은 댓글이나 추천 수를 인위적으로 늘려 특정 의견이 다수의 견해인 것처럼 보이게 하는 방식이 주로 활용되었습니다. 그러나 생성형 AI는 여러 정보를 직접 선별하고 재구성해 하나의 답변으로 제공한다는 점에서 이용자의 판단과 인식 형성에 보다 직접적인 영향을 미칠 수 있습니다. 조작된 학습 데이터나 편향된 알고리즘이 AI의 답변에 반영될 경우, 이용자는 이를 객관적이고 신뢰할 수 있는 정보로 받아들일 가능성이 있기 때문입니다.
실제로 AI로 조작된 군사시설 이미지와 딥페이크 영상이 사실처럼 유포되거나, 생성형 AI가 만든 허위정보가 SNS를 통해 확산되면서 금융시장에 영향을 미친 사례가 나타나고 있습니다. 과장되거나 왜곡된 콘텐츠를 대량으로 생산·배포해 AI가 특정 방향의 답변을 생성하도록 유도하는 방식도 새로운 여론조작 수단으로 논의되고 있습니다.
김태은 대표변호사는 과거 직접 수사와 재판에 참여했던 국가정보원 여론조작 사건과 드루킹 사건이 댓글과 추천 수를 조작해 여론을 간접적으로 왜곡하는 방식이었다면, 생성형 AI를 이용한 조작은 정보의 선별과 재구성 단계에 개입한다는 점에서 더욱 은밀하고 파급력이 크다고 설명했습니다.
아울러 AI 기술의 발전을 제한하기보다는 학습 데이터의 출처와 알고리즘 운영 원칙에 관한 투명성을 높이고, 독립적인 검증체계를 통해 편향성과 안전성을 지속적으로 점검할 필요가 있다고 제안했습니다. AI 학습 데이터를 의도적으로 오염시키거나 알고리즘 및 데이터 처리 과정을 부당하게 조작하는 행위를 규율하고, AI를 이용한 조직적·기만적 여론조작에 대응할 수 있도록 공직선거법 등 관련 법령을 정비해야 한다는 점도 강조했습니다.
기업의 대응 역시 중요합니다. AI를 활용한 인위적인 평판 관리와 여론 조성은 단기적인 효과를 가져올 수 있으나, 장기적으로는 법적 분쟁과 신뢰 훼손으로 이어질 수 있습니다. 동시에 악의적인 허위정보와 조작된 콘텐츠로부터 기업 가치와 브랜드 신뢰를 보호하기 위한 모니터링 및 대응체계를 마련할 필요가 있습니다.
법무법인 비트 기업소송팀은 검사장 출신 김태은 대표변호사를 중심으로 생성형 AI, 사이버범죄, 디지털 증거, 기업 형사 및 온라인 허위정보 관련 사안을 검토하고 있습니다. AI 학습 데이터와 알고리즘의 작동 구조, 콘텐츠의 생성·확산 경로와 조작 가능성을 기술적·법률적 관점에서 분석하고, 관련자의 의도와 책임 범위를 구체적으로 살펴 수사 대응과 분쟁 해결을 위한 전략적 대응 방향을 제시합니다.
생성형 AI를 이용한 허위정보와 여론조작, AI 학습 데이터 및 알고리즘의 편향·조작 가능성, 관련 제도와 입법적 대응 및 기업의 평판·브랜드 보호 방안에 관한 자세한 내용은 아래 김태은 대표변호사의 파이낸셜뉴스 칼럼 「진화하는 여론조작」에서 확인하실 수 있습니다.
▶ 원문 보기 [포럼] 진화하는 여론조작 - 파이낸셜뉴스