SAS, AI 사용 및 도입 현황 조사한 '데이터 및 AI 영향 보고서' 발표 신뢰할 수 있는 AI 구축 시, AI 프로젝트에서 ROI 두 배 달성 가능성 60% 상승 책임 있는 AI 실천 외면할 경우 높은 비용 초래
글로벌 데이터 및 AI 선도기업 SAS(쌔스)가 AI의 활용과 영향력, 그리고 신뢰성에 대한 새로운 연구 결과를 발표했다. SAS가 의뢰하고 IDC가 수행한 'IDC 데이터 및 AI 영향 보고서: 신뢰의 필수성(The Trust Imperative)'에 따르면, IT 및 비즈니스 리더들은 생성형 AI에 대해 다른 형태의 AI보다 더 높은 신뢰를 보이는 것으로 나타났다.
AI 사용 및 도입 현황을 조사한 이번 글로벌 연구에서, 신뢰할 수 있는 AI를 우선시하는 조직의 경우 AI 프로젝트에서 두 배 이상의 ROI를 달성할 가능성이 60% 더 높은 것으로 나타난 반면, 전체 응답자의 40%만이 AI 시스템의 신뢰성 확보를 위해 거버넌스, 설명 가능성, 윤리적 안전장치 등에 투자하고 있는 것으로 드러났다. 또한 역설적으로, 신뢰할 수 있는 AI 시스템에 가장 적게 투자한 그룹에서는 생성형 AI(예: ChatGPT)를 기존 AI(예: 머신러닝)보다 200% 더 신뢰한다고 응답했는데, 이는 기존 AI가 더 안정적이고 설명성이 높다는 점과 상반된 결과이다.
IDC의 AI 및 자동화 부문 리서치 디렉터 캐시 랭(Kathy Lange)은 "인간과 유사한 방식의 상호작용과 사회적 친숙함을 지닌 AI의 형태가 실제 정확도나 신뢰성과 관계없이 더 큰 신뢰를 유도한다는 모순된 결과가 나왔다"며 "AI 제공자, 전문가, 사용자 모두는 '생성형 AI가 신뢰받고 있지만, 실제로 신뢰할 수 있는가?'라는 질문을 던져야 한다"고 말했다.
이번 연구는 북미, 중남미, 유럽, 중동 및 아프리카, 아시아 태평양 지역의 IT 전문가 및 비즈니스 리더 2,375명을 대상으로 실시되었으며, 기술 및 비즈니스 관점이 균형 있게 반영되었다.
새로운 AI 기술에 대한 더 높은 신뢰도
이번 조사에서는 전반적으로 보다 안정적인 AI 기술 보다 생성형 AI나 에이전틱 AI와 같은 신기술에 대한 신뢰가 더 높은 것으로 나타났다. 응답자 중 48%는 생성형 AI에 대해 '완전한 신뢰'를 보였으며, 33%는 에이전틱 AI(agentic AI)에 대해 같은 수준의 신뢰를 나타냈다. 반면, 기존 AI는 가장 낮은 신뢰도를 기록했으며, '완전한 신뢰'를 보인 응답자는 18%에 불과했다.
생성형 AI와 에이전틱 AI에 대한 높은 신뢰에도 불구하고, 응답자들은 데이터 프라이버시(62%), 투명성과 설명 가능성(57%), 윤리적 사용(56%)에 대한 우려를 동시에 표명했다.
한편, 양자 AI(quantum AI)는 아직 대부분의 활용 사례가 실현되지 않았음에도 불구하고 빠르게 신뢰를 얻고 있는 것으로 드러났다. 전 세계 의사결정자 중 약 3분의 1은 양자 AI에 익숙하다고 답했으며, 26%는 해당 기술에 대해 '완전한 신뢰'를 보였다.
AI 안전장치 부족은 AI 영향력 및 ROI 저하로 이어져
연구 결과, AI 사용이 급격히 증가했으며, 특히 생성형 AI가 가시성과 적용 면에서 기존 AI를 빠르게 앞질렀다(생성형 AI 사용률 81%, 기존 AI 사용률 66%). 이는 새로운 차원의 위험과 윤리적 문제를 제시하고 있다.
IDC는 전 세계적으로 AI에 대한 신뢰 수준과 실제 신뢰성 사이의 불일치를 확인했다. 전체 응답자의 78%는 AI를 '완전히 신뢰한다'고 답했지만, 실제로 AI 거버넌스, 설명 가능성, 윤리적 안전장치에 투자한 기업은 40%에 불과했다.
또한 AI 프로젝트를 운영하는 과정에서 '신뢰할 수 있는 AI'를 위한 방안들이 중요하게 고려되지 않고 있다는 것을 알 수 있다. 조직의 우선순위 3가지 중 AI 거버넌스 프레임워크 개발을 선택한 비율은 2%이었으며, 책임 있는 AI 정책 개발은 10% 미만을 기록했다. 이러한 저조한 투자로 인해 AI 투자 효과가 충분히 실현되지 못할 가능성이 있다.
연구진은 응답자를 '신뢰할 수 있는 AI 선두주자'와 '후발주자'로 구분했다. 선두 그룹은 AI 시스템의 신뢰성을 확보하기 위한 기술, 거버넌스 프레임워크 등에 가장 많이 투자하고 이로 인한 효과를 거두는 기업으로서, 이들은 AI 프로젝트에서 두 배 이상의 ROI를 거둘 가능성이 1.6배 더 높았다.
데이터 기반과 거버넌스 부족이 AI 성공을 저해
AI 시스템이 핵심 프로세스에 통합되며 점점 더 자율화됨에 따라, 데이터 기반의 중요성도 커지고 있다. 데이터의 품질, 다양성, 거버넌스는 AI 결과에 직접적인 영향을 미치며, 스마트한 데이터 전략은 ROI, 생산성 향상 등의 이점을 실현하고 위험을 줄이는 데 필수적이다.
AI 구현 성공을 저해하는 세 가지 주요 장애물로는 분산되어 있는 데이터 인프라(49%), 미흡한 데이터 거버넌스(44%), AI 전문 인력 부족(41%)이 꼽혔다.
AI에 활용되는 데이터를 관리하는 데 있어 가장 큰 문제는 관련 데이터 소스 접근의 어려움(58%)으로 나타났다. 이 외에도 데이터 프라이버시 및 규제 준수 문제(49%), 데이터 품질 문제(46%)가 주요 우려사항으로 드러났다.
SAS 최고기술책임자 브라이언 해리스(Bryan Harris)는 "사회와 기업, 직원 모두를 위해 AI에 대한 신뢰를 확보하는 것은 필수적 요소"라며 "이를 위해 AI 구현의 성공률을 높이고, 인간이 AI 결과를 비판적으로 검토해야 하며, 경영진들은 직원들에게 AI 역량을 부여해야 한다"고 강조했다.
