‘인공지능(AI) 신뢰성 요구사항 도출 연구 용역’의 결과
자율주행, 의료, 공공사회 분야 3종 제작…AI 신뢰성 검증체계 고도화 목적

씽크포비엘이 24일 ‘자율주행, 의료, 공공사회 분야 3종의 신뢰할 수 있는 인공지능 개발 안내서’를 발표했다. [사진=씽크포비엘]
씽크포비엘이 24일 ‘자율주행, 의료, 공공사회 분야 3종의 신뢰할 수 있는 인공지능 개발 안내서’를 발표했다. [사진=씽크포비엘]

씽크포비엘이 지난 5월부터 과학기술정보통신부와 한국정보통신기술협회(TTA)의 추진으로 참여하고 있는 ‘인공지능(AI) 신뢰성 요구사항 도출 연구 용역’의 결과로 안내서를 제작했다.

씽크포비엘은 24일 ‘자율주행, 의료, 공공사회 분야 3종의 신뢰할 수 있는 인공지능 개발 안내서’를 발표했다. 해당 안내서는 이날 열린 ‘인공지능 윤리확산을 위한 공개 정책 세미나’에서 초안이 공개됐으며, 이후 보완 작업 등을 거쳐 오는 12월 9일 최종안이 공개될 예정이다. 

해당 안내서는 과학기술정보통신부와 한국정보통신기술협회(TTA)가 추진한 ‘인공지능(AI) 신뢰성 요구사항 도출 연구 용역’에 주관사로 참여해 제작한 것으로, 해당 사업은 사람 중심의 ‘AI 강국’ 실현을 목표로 AI 혜택은 극대화하면서 위험‧부작용을 최소화하려는 목적으로 추진됐다.

이번 사업은 AI 신뢰성(Trustworthiness)을 확보해 AI 신뢰성 검증체계를 고도화한다는 계획에 따라 진행됐다. 이를 위해 자율주행, 의료, 금융, 공공사회 4개 분야에서 AI 신뢰성 확보를 위한 요구사항과 검증항목 도출 및 이를 활용한 개발 안내서의 현장 적용과 신뢰성 확보 컨설팅 업무를 수행하는 용역사업이 추진되었으며, 조달청 입찰 결과 씽크초비엘이 4개 분야를 모두 수주받는데 성공해 이후 금융당국과 TTA 등이 협의해 금융 분야가 철회되면서 3개 분야에 대한 용역사업만이 진행됐다. 

씽크포비엘은 사업 일정과 계획에 따라 협력업체 등과 각 분야 요구사항 및 검증항목 고도화 작업을 진행했고, 요구사항‧검증항목 적용사례 및 활용자료를 제시했다. 이어서 씽크포비엘은 현장 적용 과정을 거치면서 본격적인 개발 안내서를 작성했고, AI 신뢰성 확보 컨설팅도 함께 진행했다. 

또 씽크포비엘은 이번 안내서 개발 과정에서 ‘주행 관련 AI’(자율주행), ‘진단과 처방을 포함하는 AI’(의료). ‘공공 서비스에 활발히 활용 중인 챗봇 및 음성인식 기능’(공공사회) 등 분야별 AI 정의 수립을 통한 기준을 마련하고 이를 위해 국내외 방대한 참고자료에 대한 선행조사 진행했다. 

씽크포비엘은 이번 용역사업의 수주에 대해 “회사가 오랜 기간 준비해 온 SW와 AI 신뢰성 관련 기술이 개발 가이드 제작에 잘 반영될 수 있도록 10개국에서 모인 석박사 인력으로 구성된 전담팀을 운영했고, AI 신뢰성 검증 분야에서 업계를 선도하는 기술력을 확보한데다 단체표준(TTA) 채택(3건에 2건 추가 예정)은 물론 특허 출원과 논문(해외 SCI급) 게재 등을 통해 공신력을 꾸준히 확보한 것이 긍정적 영향을 준 것으로 본다”고 밝혔다. 

이어 “무엇보다 이번 개발 안내서가 현장에 실질적인 도움을 준다는 목표로 제작된 만큼, 오랜 기간 정보기술(IT) 및 소프트웨어(SW) 업계 현장에서 기업 등이 산업 현장에서 겪는 어려움을 해결하고 실질적으로 성장할 수 있도록 돕는데 앞장서 온 경험이 있었기에 가능했다”고 덧붙였다.

박지환 씽크포비엘 대표는 “유럽 집행위원회의 AI 법안 등 전 세계적으로 제정되고 있는 여러 규제에 국내 AI 개발 기업이 충분히 대응할 수 있도록 개발 가이드를 제작했는데, 아직 전 세계적으로 구체적으로 참조할 만한 사례가 없는 상황에서, 개발 가이드에 대한 기업의 부정적 인식과 혼선을 예방하려면 현장 중심의 실효성을 갖추는 게 무엇보다 중요했다”면서 “관련해 씽크포비엘은 지난 15년간 400여 건에 이르는 현장 중심 컨설팅 경험이 있었기에, 개발 가이드 제작 과정에서 단순 이론이나 지식 중심 접근에서 벗어나 현장 정황을 고려해 수용 가능한 수준으로 조화롭게 균형을 맞출 수 있었다”고 밝혔다.

소비자경제신문 권찬욱 기자

저작권자 © 소비자경제신문 무단전재 및 재배포 금지