– 과기정통부‧인공지능 안전연구소, 대학생‧직장인 등 “인공지능 안전 지킴이” 80명 위촉 –
사실왜곡, 편향, 보안 취약점, 결함 등 4대 분야 오류사례 상시 제보 체계 구축 –
과학기술정보통신부(부총리 겸 과학기술정보통신부 장관 배경훈, 이하 ‘과기정통부’)는 인공지능안전연구소(이하 ‘안전연구소’)와 함께 11월 12일(목) 서울 여의도 글래드 호텔에서 AI 안전 국민 모니터링단「AI 안전 지킴이」발대식을 개최하였다.
과기정통부와 안전연구소는 신뢰 가능한 AI 이용 환경을 조성하기 위해 국민이 참여하는「정보 오류 없는 찐 AI 챌린지」캠페인을 2025년 12월부터 30여 일간 추진한 바 있다. 캠페인 기간 동안 총 625건이 접수되었으며, 이 중 464건이 유효한 오류 사례로 확인되었다. 이를 통해 AI 안전·신뢰에 대한 국민들의 높은 관심을 확인할 수 있었다.
이에, 과기정통부와 안전연구소는 한시적 캠페인을 넘어 국민이 직접 AI 오류 등을 상시적으로 찾아내고 제보할 수 있는 체계가 필요하다는 인식 아래, 이번「AI 안전 지킴이」를 구성·운영하게 되었다.
| < 국민 참여형 인공지능 모니터링단 「AI 안전 지킴이」 주요 내용 > | ||
| ㅇ 활동 기간 : 2026년 9월 ~ 2027년 8월(위촉 기간) ㅇ 참가 대상 : 대학생, 직장인, 가사종사자, 프리랜서, 자영업자 등 AI 안전에 관심있는 국민 80명 ㅇ 모니터링 분야 : 생성형 인공지능의 4대 중점 분야 오류·위험 사례 ① 사실 왜곡(환각) : 잘못된 사실·수치·날짜·인물 정보를 사실처럼 생성 (예: 허위 역사 정보) ② 편향·차별 : 특정 집단에 대한 고정관념·비하·불공정한 판단 (예: 채용 인공지능의 성별 편향 답변) ③ 보안 취약점 : 안전장치 우회, 개인·민감정보 노출 위험 (예: 대화형 인공지능의 개인정보 유출 유도) ④ 기술적 결함 : 무응답, 요청 형식과 다른 답변, 같은 답변의 반복 등 |
||
AI 안전 지킴이는 지난 8월과 9월 두 차례 공개 모집을 통해 지원한 138명 중 최종 선발된 80명으로 구성되었다. 10대 고등학생부터 60대 이상까지 폭넓은 연령층이 참여하며, 직장인, 가사종사자, 프리랜서, 학생 등 다양한 분야의 국민이 함께 한다. 이들은 2027년 8월까지 약 1년간 인공지능 오류·위험 사례를 찾아내는 등 국민이 일상에서 AI를 안전하게 믿고 사용할 수 있는 환경을 만드는 데 앞장선다.
이날 발대식에는 엄열 과기정통부 인공지능정책실장을 비롯해 김명주 인공지능안전연구소장, AI 안전지킴이 등 50여 명이 참석하였다. 행사는 위촉장 수여, 운영계획 안내, 대표 지킴이 소감 발표 순으로 진행되었다. 행사 이후에는 AI 안전 지킴이를 대상으로 오류사례 발굴 방법과 제보 기준을 다루는 교육이 이어졌다.
AI안전 지킴이가 제보한 사례는 정확성, 위험도, 재현 가능성, 활용 가능성 등 유효성 검증을 거쳐 확정된다. 확정된 사례는 AI 안전성 평가와 위험 연구의 기초 자료 등으로 활용될 예정이다. 또한 과기정통부와 안전연구소는 관련 기업에 사례를 공유하는 등 AI 기업과 지속적으로 소통해 나갈 계획이다.
엄열 과기정통부 인공지능정책실장은 “AI가 남녀노소 누구나 사용하는 우리의 일상이 된 만큼, 이를 안전하게 사용할 수 있는 환경은 우리 모두가 함께 만들어 가야 한다.”라며, “AI 안전 지킴이가 국민의 눈높이에서 찾아낸 오류 하나하나가 모여 더욱 안전한 AI를 만드는데 소중한 밑거름이 될 것이다.”라고 밝혔다.
