'자율주행·생명안전' 사후약방문 우려…AI 윤리 급선무

[아이뉴스24 김문기 기자] 생명안전을 위한 자율주행 인공지능(AI) 윤리 대책 마련이 시급하다.

박선숙 의원(바른미래당)은 4일 국회의원회관 제6간담회의실에서 '자율주행 시대, 생명안전 윤리와 SW보안 대책'이란 주제로 한국정보화진흥원(원장 문용식)과 공동으로 정책토론회를 개최했다.

박원재 한국정보화진흥원 정책본부장이 토론회 좌장을 맡고, 고려대 정보보호대학원 권헌영 교수와 한국교통연구원 미래차교통연구센터장 김규옥 박사의 주제 발표에 이어 한양대 미래자동차공학과 허건수 교수, SKT ICT기술센터 서정석 박사, 소프트웨어정책연구소 AI·SW안전연구팀 박태형 박사, 과학기술정보통신부 인공지능기반정책과 김경만 과장, 국회입법조사처 신용우 입법조사관이 토론자로 참석했다.

지능화 사회 대응을 위해 마련된 이번 토론회는 안전한 자율주행 시대를 열어가기 위한 다양한 정책적 과제가 논의됐다.

지난 10월 한국정보화진흥원이 발표한 '미래 지능화 사회에 대한 대국민 인식조사'에 따르면 지능화 관련 신기술이나 서비스 중 자율주행자동차에 대한 인지도가 가장 높은 것으로 나타났다. 응답자들은 지능화 사회에서 가장 우려되는 것으로 '기술적 오작동과 역기능'을 꼽았고, 신기술과 신산업의 규제 철폐보다는 이에 대한 안전성을 충분히 검토한 후 규제 정비가 이뤄져야 한다는 데 대한 응답률이 더 높았다.

독일 정부는 2017년 '자율주행자동차 윤리 지침'을 발표한 바 있다. 이 지침의 최우선 순위는 사람을 보호하고 피해를 최소화하는 것이다. 지침은 '위험한 상황에서 재산이나 동물보다 인간의 생명을 우선해서 보호'하도록 하며, '피할 수 없는 사고 발생 시 연령, 성별, 신체적 또는 정신적 특성에 근거한 어떠한 차별도 허용돼서는 안 된다'고 명시하고 있다.

아울러, 책임, 통제, 보안, 데이터 주권, 휴먼·머신 인터페이스 설계 등 자율주행자동차 도입에 앞서 필요한 다양한 윤리적 내용을 담고 있다.

우리나라 역시 내년 5월 '자율주행자동차법'의 첫 시행을 앞두고 있어, 안전한 자율주행 시대를 대비하기 위한 입법·정책적 대책이 필요한 시점이다.

토론회의 첫 발제를 맡은 권헌영 교수는 '안전한 자율주행시대를 만들기 위한 제도적 과제와 전문가 윤리'를 주제로, 자율주행시대를 대비하는 미래교통체계의 법·정책 동향과 쟁점을 분석하고 제도적 과제를 제시했다.

권 교수는 "자율주행기술의 발전으로 미래 도로교통체계는 변화의 전환점을 맞이했고, 기술 사업과 도로정책, 교통 인프라 기능 등 국가 역할의 재정립이 필요한 시점이 되었다"고 지적했다.

이어, "기술 중심 시대에 전문성에 기반을 둔 주체적인 전문가 윤리가 강화 되어야"하며, "새로운 기술의 등장에 따른 윤리적 문제와 공통의 윤리 준칙 설정을 논의하기 위한 이해관계자들의 공론의 장이 필요하다"고 강조했다.

김규옥 박사는 '생명안전을 위한 자율주행시스템의 안전·보안 이슈'를 주제로, 자율주행자동차의 국내외 안전과 보안 정책 사례를 분석하고 제도적 대응 방안을 발표한다.

김 박사는 "자율주행 소프트웨어 업데이트와 사이버 보안관련 사고 시 법적 책임 규명이 복잡할 뿐 아니라, 사고책임의 범위가 자동차에 국한되지 않고 자율주행 시스템, 도로 등과 연계되며 보안 체계 등으로 확장되는 문제가 발생할 수 있다"고 꼬집었다.

이어, "자율주행시스템의 소프트웨어를 제3자가 제공하는 경우 등을 포함하여 종합적인 관리 체계와 사고 책임 문제에 대한 대비책이 마련되어야 한다"고 강조했다.

토론회를 주최하는 박선숙 의원은 "사회 모든 영역에 걸쳐 인공지능 기술이 현실화 되고 있지만, 기술의 윤리와 책임, 안전성에 대한 대책은 이에 뒤쳐지고 있다"며, "사고가 발생한 뒤에 대책을 세우면 늦다. 생명안전은 선제적이고 구체적으로 대비해야 한다"고 말했다.

한편, 박 의원은 지난 9월 5일 '자율주행자동차법 개정안'을 발의한 바 있다. 개정안은 자율주행자동차의 상용화를 촉진하기 위해 생명과 안전을 우선하는 윤리원칙에 입각한 '자율주행자동차의 윤리적 설계기준'을 마련하도록 하고, 이를 자율주행자동차의 설계 또는 제작 시에 널리 적용될 수 있도록 하는 내용을 담고 있다.