자율기구 참여 플랫폼 기업-AI기업 간 간담회 개최
플랫폼 기업의 AI 활용 확대에 따른 다양한 리스크(데이터 처리의 투명성, AI 활용 서비스의 책임 구조, 개방형 표준 연동성 확보 등)의 자율 규율 방안 검토
과학기술정보통신부(부총리 겸 과기정통부 장관 배경훈, 이하 ‘과기정통부’)가 운영을 지원하는「플랫폼 자율기구」는 7월 22일(수), 서울 페이토 호텔에서 자율기구 참여 플랫폼*·자문위원 및 AI 기업(OpenAI·앤트로픽)과 간담회를 개최하였다고 밝혔다.
* (참여기업) 카카오, 놀유니버스, 당근마켓, 로앤컴퍼니, 무신사, 직방, 한국신용데이터
이번 간담회는 플랫폼의 AI 활용이 고도화되는 상황에서 데이터 처리의 투명성, AI 활용 서비스의 책임 구조, 개방형 표준의 연동성 확보, AI 모델 공급 안정성 등 플랫폼의 안전하고 지속 가능한 AI 활용 환경 조성을 위해 마련되었다.
현재 AI 모델은 플랫폼 서비스 전반에 깊숙이 접목되고 있으나, AI의 기술적 특성상 문제 발생 시 플랫폼이 단독으로 해결하기 어렵고, 해당 모델을 제공하는 AI 사업자의 정책(사용 비용, 버전 변경, 공급 중단 등)에 상당한 영향을 받아 플랫폼의 주요 리스크 중 하나로 여겨져 왔다. 이에 AI 사업자와 지속적인 소통·협업체계를 구축하는 것이 무엇보다 중요하다는 플랫폼 업계의 공감대가 형성되었다.
먼저 플랫폼과 AI사업자 측은 사전고지 없는 모델 버전 변경·공급 중단 등 애로사항을 공유하고, 이를 위한 중·장기 로드맵 공유, 명확한 고지 가이드라인 논의 등 서비스 환경 변화의 예측 가능성을 높이기 위한 소통 노력을 지속하기로 하였다. 또한, 개방형 표준의 안정성 확보를 통한 모델 간 전환 및 국내 사업자 간 연동 지원 방안에 대해서도 폭넓은 의견을 교환했다.
양측은 AI를 활용한 플랫폼 서비스의 최신 사례를 공유하고, 각 상황별로 양측이 통제 가능한 요소가 무엇인지, 어떤 절차에 입각하여 책임을 판단하고 대응할 것인지 큰 틀에서 논의가 진행되었다. 데이터 측면에서는 AI의 플랫폼 데이터 처리 기준 확립, 출처 표기 등 심도있는 논의가 이루어졌다.
마지막으로 양측은 이번 간담회를 시작으로「플랫폼 자율기구」를 통해 지속적인 소통을 희망한다고 밝히며, 향후 플랫폼 내 AI 서비스 제공 확장에 대응하여 다양한 논의를 지속하기로 하였다.
한편,「플랫폼 자율기구」는 지난 ’22년 8월, 플랫폼의 영향력 확대에 따른 사회적 책임을 강화하면서, 플랫폼의 혁신과 상생 가치를 확산하기 위한 다양한 자율규제 방안을 논의하는 협의체로, 과기정통부는 2개분과(데이터·AI, 혁신공유·거버넌스) 운영을 지원하고 있다. 현재 13개 플랫폼과 6개의 협·단체가 참여하고 있다.
* (참여자) 기업네이버, 카카오, 우아한형제들, 야놀자, 당근마켓, 무신사, 직방, 힐링페이퍼, 로앤컴퍼니, 한국신용데이터, 쿠팡, 구글, 메타
협단체한국인터넷기업협회, 한국온라인쇼핑협회, 코라이스타트업포럼, 한국소비자연맹, 스타트업얼라이언스, 중소기업중앙회
①데이터·AI 분과는 ’23년 ‘검색·추천서비스 투명성 제고를 위한 자율규제 원칙’을 마련하고 지난 2년간(’24년, ’25년) 이 원칙에 대한 이행점검을 진행했다. 올해는 생성형 AI 활용 등 플랫폼의 기술환경 변화에 맞추어 본 원칙을 보완하고, 플랫폼에서 원칙이 효과적으로 적용되고 있는지 이행점검을 실시하기로 하였다. 또한 3년간의 이행점검 결과를 바탕으로 플랫폼 이행 사례집을 발간할 예정이다.
②혁신공유·거버넌스 분과는 ’25년 3월 플랫폼의 사회가치 제고를 위해 보편적으로 지향하고 준수해야 할 방향성을 논의하여 참여기업 전체의 합의로 ‘플랫폼 기업 거버넌스 원칙’을 정립하였다. 올해는 각 기업별로 본 원칙의 구체적인 이행 사례를 공유하고 모범 사례집을 발간하는 등 본 원칙의 실효성 제고를 위해 노력하기로 하였다.
그간「플랫폼 자율기구」에서 논의된 주요 자율규제 원칙 및 구체적 이행 상황에 관한 내용들은 한국인터넷기업협회 누리집을 통해 확인할 수 있다.
https://www.kinternet.org/)
※ 붙임 1. 플랫폼 기업 거버넌스 원칙
| 붙임1 | 플랫폼 기업 거버넌스 원칙 (혁신공유ㆍ거버넌스 분과) |
| 구분 | 세부 원칙 | 실천 원칙 |
| 기술 |
기술의 신뢰성 |
· 영업비밀 노출이나 이용자 피해가 발생하지 않는 한 플랫폼 내 정보 노출 기준을 공개하기 위해 노력한다. · 기술 개발 과정의 윤리적 기준을 설정하고 준수하기 위해 노력한다. |
| 서비스 안전성 |
· 시스템의 취약점을 지속적으로 모니터링한다. · 사용자 데이터 보호를 위해 최선을 다한다. · 긴급 상황 및 서비스 장애에 신속하게 대응하기 위해 노력한다. |
|
| 참여자 개방성 |
정책 투명성 |
· 플랫폼의 주요 정책과 변경사항을 명확하고 이해하기 쉽게 공개한다. · 정책 수립 과정에서 이해관계자의 의견을 수렴하도록 노력한다. |
| 소통 개방성 |
· 플랫폼 참여자가 아이디어와 개선점을 제안할 수 있는 피드백 시스템을 갖춘다. · 플랫폼 참여자 간 의견 교환과 협력이 가능한 창구를 마련한다. |
|
| 생태계 혁신성 |
공정한 경쟁환경 |
· 허위정보와 악의적 행위를 적극적으로 차단하기 위해 노력한다. · 데이터와 자원의 공정한 공유를 모색한다. · 부당하게 특정그룹을 배제하거나 불이익을 발생시키는 의사결정 방지를 위해 노력한다. |
| 혁신 촉진 | · 플랫폼 생태계 전반의 혁신을 위해 새로운 실험과 아이디어를 장려한다. · 플랫폼 참여자들에게 지속적인 학습과 성장 기회를 제공한다. |
|
| 지속 가능성 |
사회가치 제고 |
· 플랫폼이 제공하는 제품 또는 서비스가 사회문제 해결에 기여할 수 있도록 노력한다. · 지역사회의 발전을 위해 교육, 기술지원 등의 제도를 갖추도록 노력한다. |
| 환경의 지속 |
· 친환경 경영원칙의 수립과 준수를 위해 노력한다. · 환경영향을 최소화하는 기술개발을 위해 노력한다. · 플랫폼 참여자들, 협력업체와 환경적 책임을 함께 추구한다. |
|
| 포용 확산 | · 포용적 기술과 서비스를 개발하고, 접근성 높이도록 노력한다. · 다양한 디지털 소외계층의 요구를 반영할 수 있는 채널을 |
| 붙임2 | 검색ㆍ추천서비스 투명성 제고 원칙 (데이터ㆍAI 분과) |
□ 내 용
| ①검색·추천 기준공개 | 대상사업자 | ▸검색·추천서비스 제공 사업자 * 검색엔진, e커머스, 앱마켓, 배달‧숙박플랫폼 등 포괄(뉴스‧동영상 제외*) |
| 공개범위 | ▸검색·추천 기준의 주요 변수 및 그에 관한 설명 * 제3자에 의한 이용자 피해, 영업비밀 침해 우려 시 미공개 가능 |
|
| 공개방법 | ▸검색추천 결과, 고객센터 등 이용자 접근 용이 위치·방식으로 공개 | |
| 현행화 | ▸공개된 기준의 주요변수와 그에 관한 설명 등 변경 시 현행화 | |
| ②이용자 권익 증진 | 이용자 설명 | ▸공개된 정보에 대한 이용자 설명 요구 시 성실 답변 |
| 대가지불 영향설명 |
▸수수료·광고료 등 대가지불 여부가 노출 결과에 영향을 미치는 경우 이용사업자에게 설명 의무 | |
| 신뢰성 제고 | ▸의도치 않은 결과 도출 여부 등 주기적 점검 | |
| ③실효성 확보 | 이행점검 | ▸자율기구를 통해 이행 여부 점검 및 필요시 시정 권고 |
| 개선 등 조치 | ▸기술·서비스 발전, 이해관계자 요청 시 원칙 개선 등 조치 |
□ 이행점검 체크리스트
| 구분 | 주요 내용 | |
| 검색 노출 순서 결정 및 추천 기준 공개 |
공개 사항과 범위 | (선정 이유) 순위를 결정하는 주요 변수 및 변수가 어떻게 선정 |
| (설명 수준) 선정된 주요 변수에 대한 설명이 이용자/이용사업자가 이해 가능한 수준으로 제공되고 있는가? | ||
| 공개 방법 | (변수 공개 장소) 변수 공개를 어디에 하고 있는가? | |
| (접근 경로 및 서비스별 설명) 서비스 이용자의 접근 경로나 서비스 종류에 따른 설명을 하고 있는가? | ||
| 현행화 | (변경 여부 공지) 알고리즘 고도화를 포함하여 주요 변수가 변경되는 경우, 변경 여부를 알리고 있는가? | |
| (변경 사항 수정 및 반영) 변경된 사항을 반영하여 설명 등이 수정되고 있는가? | ||
| 이용자의 권익 증진 등 | 이용자에 대한 설명 | 공개된 검색 노출 결정 및 추천기준 정보에 대해 이용자가 설명을 요구하는 경우 답변할 수 있는 절차를 갖추어 답변하고 있는가? |
| 이용사업자에 대한 설명 | 공개된 검색 노출 결정 및 추천기준 정보에 대해 이용자가 설명을 요구하는 경우 답변할 수 있는 절차를 갖추어 답변하고 있는가? | |
| 신뢰성 제고 | 검색 노출 순서 결정 및 추천 기준이 목적한대로 동작하는지 등을 주기적으로 점검하고 있는가? | |
| 기타 | 노출순서 개인화 여부 | 노출 순서가 개인화된 것인지 여부를 밝히고 있는가? |
