거북왕
24k
2018-11-29 15:23:41
1
473

'편견 없는 AI'를 설계하려는 MS의 방법론


http://m.zdnet.co.kr/news_view.asp?article_id=20181128140651&re=zdk#imadnews


공정성-투명성 핵심…'윤리적 AI' 만들어야

구글 인공지능(AI) 연구조직 '구글 브레인은' 지난 2016년 흥미로운 논문을 한편 발표했다. AI의 편견을 극복하는 방법을 주제로 한 연구 논문이었다.

이 논문에서 연구진은 AI가 편견을 가질 수 있다고 지적했다. 편향된 데이터로 편향된 판단을 내릴 위험이 충분하다는 경고였다. 한 걸음 더 나가 사람에게 영향을 미칠 수 있는 수많은 판단 결과로 누군가를 차별할 수도 있다고 봤다. 이런 차별 문제는 수학적 방법론만으론 해결할 수 없다는 견해를 제시했다.

요컨대 편향된 데이터를 근거로 한 AI의 판단은 공정하지 않다. 사람들에게 신뢰를 못 준다. 의심스러운 AI는 인간 사회에 융화할 수 없다. 이 상황이 바뀌지 않는 한, AI 개발과 활용은 현실적인 문제가 된다. 아직 주류 AI의 역할은 제한적이다.

단순한 정보 탐색 및 제공이나 일상적인 편의를 돕는 데 그친다. 당장 기업 환경의 거래와 계약, 인명을 다루는 의료, 법집행과 같은 영역에서 AI가 널리 쓰이지 못한다. 믿을 수 있는 데이터로 투명한 판단 과정을 거쳐 사람들에게 설명이 가능한, 이해될 수 있는 결과를 제공하는 AI가 개발, 보급되지 못해서다.


관심있는 분은 참고바랍니다.

0
0
  • 댓글 1

  • 아스키
    8k
    2018-12-03 12:55:23

    입력된 데이타에 따라 결과가 나오는 건 당연하다고 생각합니다.

    IBM 왓슨의 실패사례를 보면 의료관계자들의 왓슨에 대해서 환상 (입력하면 알아서 해줄거다)

    의료 빅데이타를 제대로 가공하지 않고 입력..의료관계자들의 왓슨에 대한 무지와 왓슨 이용 교육을 제대로 배우려는 노력을 하지 않음...

    0
  • 로그인을 하시면 댓글을 등록할 수 있습니다.