AI 워싱

정의

자사의 제품 또는 서비스가 실제로는 AI 기술과 무관하거나 관련성이 낮음에도 불구하고, 마치 AI 기술에 기반한 것처럼 거짓/과장 홍보하는 기업의 행위.

[유사 개념] 그린 워싱(Green Washing), 클라우드 워싱(Cloud Washing), 오픈 워싱(Open Washing) 등

목적

소비자 또는 투자자에게 더 혁신적이며 매력적인 인상을 주어, 매출 및 주가 향상/신규 투자 자본 유치/기술 선도적 이미지 구축하려는 의도.

영향

1) 기업이 기술 및 서비스에 과도한 비용을 지불하게 하거나, AI가 기대했던 운영 목표를 달성하지 못하게 되는 문제.

2) AI를 활용한다고 주장하는 제품이나 서비스에 대한 소비자의 기대를 충족하지 못할 경우 발생하는 전체 스타트업에 대한 신뢰 저하 문제.

3) 무분별한 AI 활용으로 발생하는 환경적 영향 문제.

"우리는 모든 유형의 작업에 AI를 사용하는 것이 항상 의미가 있는지 묻는 것을 잊어버린 것 같다."

"AI는 나무에서 자라지 않으며, 이미 항공보다 기후 변화에 더 많은 기여를 하고 있다." - 옥스퍼드대학교 기술 및 규제 교수 Sandra Wachter

실제 기업 사례

Amazon Go

쇼핑을 마친 고객이 매장을 나설 때, 구매 의사 제품에 대한 자동 결제 및 청구가 이루어지는 무인 매장 아마존 고의 "Just Walk Out" 서비스.

이에 대해 개별 제품에 센서 또는 칩을 부착하는 것이 아닌, 천장의 센서가 고객과 제품을 실시간 추적하는 딥러닝 기술을 적용하였다고 홍보.

그러나 실제로는 1,000여 명의 인도 지사 직원들이 매장 카메라를 통해 수동으로 체크하고 있다는 사실이 밝혀지면서, AI 워싱 논란이 제기됨.

해외 규제 사례

미국

2023년 12월, 미국 증권거래위원회(Securities and Exchange Commision, SEC) 위원장 Gary Gensler가 기업들의 AI 워싱 행태를 경고.

AI를 내세운 허위 마케팅에 대한 미국 증권거래위원회의 대대적인 단속을 시사함과 더불어, 'AI 워싱'이라는 용어를 널리 알리는 계기.

2024년 3월 18일, 미국 증권거래위원회는 투자 자문사 2곳을 AI 워싱 명목으로 기소.

1) Delphia

> 미래 유망 기업과 트렌드를 AI로 예측하여, 고객에게 양질의 투자 기회를 제공한다고 홍보.

>> 미국 증권거래위원회는 델피아가 실제로 AI 및 머신러닝 기술을 보유하지 않았다고 판단.

>>> 22만 5000달러(약 3억 100만원)의 벌금.

2) Global Predictions

> 웹 사이트와 소셜 미디어 등에서 AI 기반 예측을 제공하는 최초의 'AI 금융 자문사'로 홍보.

>> 미국 증권거래위원회는 글로벌 프리딕션스가 근거 제시 등의 입증에 실패하였다고 판단.

>>> 17만 5000달러(약 2억 3천 400만원)의 벌금.

영국

영국 광고표준위원회(Advertising Standards Authority, ASA)는 AI 워싱 관련 규칙, 법률을 제정.

해당 법안에서는 AI와 관련하여 실질적으로 오해의 소지가 있는 진술을 금지하는 내용 등 포함.

전망

1) 국내 규제 도입

해외 사례와 같은 규제가 국내에서 시행되기까지는 시간이 다소 소요될 것으로 전망되므로, 개인의 신중하고 비판적인 접근이 필요.

"소비자와 투자자가 주체적으로 정보를 검토하고 검증하는 태도를 갖는 것이 중요하다."

"기업이 AI 기술에 대해 단순히 '혁신적' 또는 '지능적'이라는 단어를 남발하는 것이 아닌지 비판적인 시각으로 바라볼 필요가 있다." - KB경영연구소 책임연구원 송원호

2) AI 워싱의 유명무실화

"AI가 매우 보편화됨에 따라 'AI 기반'이라는 브랜드 도구가 더는 차별화 요소로 작용하지 않을 것이다."

"인터넷에 접속하였다고 말하는 것과 비슷하게 될 것이다." - MMC Ventures 연구책임자 Advika Jalan