AI 기술에 대한 신뢰를 구축하기 위한 5가지 필수 전략

전국적으로 자율주행 택시가 도입됨에 따라, 콜로라도 대학교 볼더 캠퍼스는 인공지능 시스템의 신뢰성과 폭넓은 수용성을 확보하기 위한 연구를 선도하고 있습니다. 이 이니셔티브를 주도하는 사람은 콜로라도 대학교 볼더 캠퍼스 토목환경건축공학과 교수이자 행동과학연구소(IBS) 펠로우인 아미르 베자단입니다.

CIBER(Connected Informatics and Built Environment Research) 연구소의 Behzadan과 그의 팀은 프레임워크를 만들었습니다 사람과 사회에 도움이 되는 AI 도구 개발을 위해.

그리고 새로운 논문에서 출판 AI와 윤리 저널에서 베흐자다와 그의 박사과정 학생인 아르미타 다비리는 해당 프레임워크를 활용하여 신뢰성의 핵심 요소를 통합한 개념적 AI 도구를 설계했습니다.

베자단은 보도자료를 통해 "인간으로서, 다른 사람들이 긍정적인 의도를 가지고 있다고 가정하고 잠재적인 위험에 스스로를 노출하는 것은 그들을 신뢰하는 것입니다."라고 말했습니다. "이제 그 개념을 인간 대 인간 관계에서 인간 대 기술 관계로 확장할 수 있습니다."

AI에 대한 신뢰 이해

베자단은 자율주행차, 스마트 홈 기기, 대중교통 앱 등 일상생활에서 사용되는 AI 시스템에 인간의 신뢰를 어떻게 구축할 수 있는지 탐구합니다. 그는 신뢰가 이러한 기술의 도입과 의존에 있어 핵심적인 요소라고 강조했습니다.

베자단은 역사적으로 신뢰가 인간의 협력과 사회 발전의 토대가 되어 왔다고 지적했습니다. 이러한 신뢰와 불신의 역학은 오늘날 AI에 대한 우리의 태도에서 분명히 드러나는데, 특히 AI 개발이 불투명하거나 멀리 떨어진 기업이나 정부에 의해 주도되는 것처럼 보일 때 더욱 그렇습니다.

AI에 대한 신뢰를 구축하기 위한 5가지 전략

연구원들은 AI 도구의 신뢰성을 높이는 데 기여하는 5가지 핵심 요소를 확인했습니다.

1. 사용자 중심 디자인

AI에 대한 신뢰는 개인의 경험, 문화적 규범, 기술적 친숙도에 따라 달라집니다.

베자단은 신뢰할 수 있는 AI를 설계하려면 대상 사용자의 특성을 이해하는 것이 매우 중요하다고 강조했습니다. 고령자를 위한 인터페이스를 제공하는 음성 비서가 그 예입니다.

2. 신뢰성, 윤리 및 투명성

신뢰할 수 있는 AI 시스템은 일관되게 기능하고, 사용자 안전을 보장하며, 개인 정보를 보호하고 투명하게 운영되어야 합니다.

베자단은 윤리적 기준을 도입하고 편향된 운영을 근절하는 것이 매우 중요하다고 강조했습니다. 데이터 사용 및 의사 결정 과정의 투명성은 사용자의 신뢰를 높여줍니다.

3. 문맥 민감도

AI 도구는 해당 도구가 제공하는 특정 상황에 맞춰 조정되어야 합니다.

베자단과 다비리는 그들의 연구에서 다양한 이해 관계자의 의견과 우선순위를 고려하여 역사적 건물의 협력적 유지 관리를 돕는 AI 기반 도구인 "PreservAI"를 제안했습니다.

4. 사용 편의성 및 피드백 메커니즘

신뢰에는 사용성이 필수적입니다. AI 시스템은 사용자의 참여를 유도하고, 사용자가 문제를 보고하고 피드백을 제공할 수 있는 방법을 제공해야 합니다.

"아무리 신뢰할 수 있는 시스템을 갖추고 있더라도, 사람들이 그 시스템과 상호작용할 수 없게 한다면 사람들은 그 시스템을 신뢰하지 않을 것입니다. 실제로 사용해 본 사람이 극소수라면, 사회 전체가 그 시스템을 신뢰하고 사용하기를 기대할 수 없습니다."라고 베자단은 설명했습니다.

5. 신뢰 재건을 위한 적응력

AI에 대한 신뢰는 변동될 수 있습니다. 예를 들어, 자율주행 택시가 사고에 연루되면 사용자는 신뢰를 잃을 수 있습니다.

하지만 기술을 개선하고 적용하면 신뢰를 회복하는 데 도움이 될 수 있습니다. 베자단은 마이크로소프트의 챗봇 "조(Zo)"를 예로 들어 설명했습니다. 조는 이전 모델인 "테이(Tay)"의 실패 이후 개선된 디자인을 통해 신뢰를 얻었습니다.

앞으로 이동

AI 시스템은 위험을 수반하지만, 적절한 신뢰 구축은 AI의 발전과 사회적 수용을 촉진할 수 있습니다. 사용자가 AI와 적극적으로 소통하고 데이터를 공유할 때, 이러한 시스템은 더욱 정확하고 유용해집니다.

베자단은 "사람들이 AI 시스템을 신뢰하여 데이터를 공유하고 의미 있게 소통할 때, 시스템은 크게 개선되어 더욱 정확하고 공정하며 유용해질 수 있습니다."라고 덧붙였습니다. "신뢰는 단순히 기술에 대한 이점이 아니라, 사람들이 AI로부터 더욱 개인화되고 효과적인 지원을 받을 수 있는 경로입니다."

출처: 콜로라도 대학교 볼더 캠퍼스