lllllllllllllll
6k
2018-10-11 10:21:52
47
4899

아마존이 인공지능 채용 개발을 폐지한다네요


http://m.yna.co.kr/kr/contents/?cid=AKR20181011001100075&input=1195p


...아마존 엔지니어들은 'AI의 여성차별적 인식'을 바로잡아 보려고 시스템을 점검해봤지만 뚜렷한 해결책을 찾지 못했다.

아마존은 지난해 초 AI 리크루팅 프로젝트를 자체적으로 폐기했다고 로이터통신은 전했다.

아마존 측은 로이터 보도에 대해 "우리는 직장 내 다양성과 평등을 위해 노력하고 있다"는 원론적인 입장만 냈다.

5
0
  • 댓글 47

  • 거북왕
    24k
    2018-10-11 10:24:05

    AI의 여성차별적 인식????

    1
  • ramisiel
    2k
    2018-10-11 10:27:52

    와.... AI도 피하는 왜 광탈되는지 이유를 알고 싶네요 ㅎㅎㅎ

    1
  • yamanin
    1k
    2018-10-11 10:34:38

    아마존 앞에서 시위를 하려나.ㅡㅡ;;;

    AI 너 마저...

    1
  • 우주대존맛
    1k
    2018-10-11 10:38:34

    와,,,,ㄷㄷㄷ

    1
  • samsara
    56
    2018-10-11 10:54:30

    개발이 1년쯤 진행됐을 때 이 프로그램은 경력 10년 이상의 남성 지원자 서류만 샅샅이 뒤져내 고용해야 할 후보로 제시하기 시작했다.

    IT 기업 지원자 중에 남성이 압도적으로 많기 때문에 축적된 데이터에 의해 AI가 '남성 편향적'으로 서류 분류를 했다는 것이다.


    우선 기사에서 언급된 이유는 이거 아닌가요?..



    3
  • 곱등이
    49
    2018-10-11 11:01:42 작성 2018-10-11 11:01:57 수정됨

    기사 링크좀 ;;; ㄷㄷ 넷맹이라 

    1
  • 삽삽
    97
    2018-10-11 11:19:27

    애초에 오류가 아니니까 원인을 못찾죠.

    0
  • ASTROTA
    135
    2018-10-11 11:23:09

    윗분처럼 오류가 아닐수도 있는거 아닐까요?

    저번에 중국 AI? 거기도 중국에 대해 나쁘게 답해서 교육시킨걸로 아는데 ㅋㅋ

    0
  • 곱등이
    49
    2018-10-11 11:26:22

    아마 근데 따지고보면 남녀도 관리체계가 다를텐데 한쪽성별로 모는게 좋을테구 (게임이아니라 남녀같이있을경우 시너지보단 사고확률이 높음) 한쪽으로 몰면 지원자수가 월등히 많은쪽이 좋치안을까 생각이 듦

    0
  • 배고프고가난한백수
    452
    2018-10-11 12:39:22

    얼핏 보았을 때 드는 생각은

    어떠한 적합한 후보를 설정해 놓았을 때

    아무래도 상대적으로 여성보다 남성 지원자가 더 많으니 남성에 대한 데이터가 여성에 대한 데이터보다 더 많을 것이고

    이것이 결국 AI가 남성이 여성보다 더 적합하다라는 분석 결과로 연결되어서 그런 것 같네요.

    이 문제를 해결하려면 적합한 후보를 모델링 할 때 단순히 이러이러한 능력이나 적성을 가진 사람에 대해 모델링 하는 것이 아닌

    다른 여러 요인들까지 고려해서 해야할 것 같은데

    생각해보면 남성과 여성을 공평하게 채용한다는 조건 하에 적합한 인재를 모델링 할만한 좋은 방법이 딱히 떠오르지 않기도 하네요.

    남성과 여성 지원자 비율은 매 시도마다 유동적으로 변하기 때문에

    남성과 여성을 각기 나눠서 가중치를 주기도 애매하고...

    잘 모르는 초짜지만 나름 열심히 생각해봤습니다.

    -1
  • 삽삽
    97
    2018-10-11 12:53:43

    인과관계가 반대죠. 남자가 많아서 남자가 적합한게아니라 남자가 적합하니까 남자가 많은거라봅니다.

    1
  • lllllllllllllll
    6k
    2018-10-11 12:56:29 작성 2018-10-11 12:57:38 수정됨

    삽삽 // 그나저나 왜 남자가 적합한걸까요?? 궁금하기는 하더라고요 (근데 저희학과는 여학생들이 잘하는 편이었죠... 그대신 프로젝트 할때 매일 밤 10시까지 하니까 결국 응급실로 실려갔었죠)

    1
  • 삽삽
    97
    2018-10-11 13:01:21

    일단 아이티 업계 특성상 논리적이고 추상적인 사고과정이 많이 필요한데(아마존같은 높은수준일수록) 이거는 전형적인 남성형 뇌의 역할이고 두번째로 능력외로 회사에 오래 근속하고 충성하고 그곳에서 삶을 찾는 비율이 남자가 높기때문이죠.

    0
  • 배고프고가난한백수
    452
    2018-10-11 13:07:07
    삽삽님 // 기사 본문에도 나와있듯이 지원자 중 남성이 압도적으로 많았고 실제 국내만 보더라도 대부분의 공과대학 학생들의 남녀 비율을 보면 남학생이 여학생보다 많습니다. 남자가 적합하니깐 남자가 많은거라는 의견이 오히려 인과관계가 반대인 것 같습니다. 애초에 남자가 적합해서 남자가 많은거라면 AI가 남자 지원자만 뽑는게 문제될 것도 없고요.
    0
  • 삽삽
    97
    2018-10-11 13:09:32

    네 그래서 ai가 남자만 뽑는게 문제없다는게 제 취지입니다. 근데 다른 정치적? 요소들때문에 문제인거죠. 애초에 왜 공과계열에 남자가 많은지, 지원자가 남자가 많은지 생각해보시기 바랍니다.

    0
  • 배고프고가난한백수
    452
    2018-10-11 13:31:26

    삽삽님 // 단순히 여성보다 남성이 더 많다는 이유만으로 남성이 더 적합하다라는 것은 굉장히 편협한 사고 방식입니다. 말씀하신걸 보니 삽삽님은 남성이신것 같은데 삽삽님보다 더 실력이 뛰어난, 적합한 여성 종사자가 없을 것이라고 생각하나요? 애초에 AI가 남성만 뽑는다는 것 자체에 대해서 제대로 이해하고 계시지 못한듯 한데 정말로 이것저것 다 따져봤을때 남성이든 여성이든 적합하지 않다면 뽑지 않으면 그만입니다. 그런데 지금 발생하는 문제는 여성은 일단 거르고 남성만 후보군에 놓고 고려한다는 것이 문제입니다. 막말로 여성이 남성에 비해 숫자가 적다. 그러므로 여성보다 남성이 더 적합하다. 이 의견을 지지할만한 근거가 있습니까? 통계자료가 그렇다고 해서 모든 개개인에 통계자료를 붙여서 평가하는 것은 오류를 낳을 수 있습니다. 1부터 100까지 모든 숫자가 하나씩 있을 때 이 모든 숫자들의 평균은 50.5입니다. 모든 숫자를 평균으로 놓고 비교하면 모든 숫자에 다 오류가 있는 셈입니다.

    1
  • 삽삽
    97
    2018-10-11 13:39:59
    저는 저보다 실력이 뛰어난 여자는 없다고 한적없는데요... 다만 아마존같은 상위퍼센트로 갈수록 매우 소수의 적합한 인원만 남게될것이고 남성일 확률이 높다는 거죠. 그래서 결과적으로 남자가 많게되는거죠. 모든 흑인이 달리기가 빠르진않지만 최고로 빠른애들은 다 흑인이잖습니까 ㅎㅎ
    0
  • Ananya
    610
    2018-10-11 13:51:45 작성 2018-10-11 13:55:51 수정됨

    AI가 토해낸 답이 객관적인 것처럼 보일 수는 있습니다. 하지만 그 학습에 사용된 데이터 또한 객관적이라고는 말 할 수 없는 것이죠. 실제로 미국에선 알고리즘을 도입해서 교사를 평가하는 시스템을 넣었는데 학생들에게도 인망 있고, 학부모들도 좋아하던 교사가 정리해고 대상이 되어 논란이 된 적 있었습니다. 자세히 검토한 결과 그 알고리즘 로직에는 '버그'는 없었을지언정, 설계 자체가 지나치게 문제를 단순화했다는 것이 밝혀졌다죠.

    남성의 뇌와 여성의 뇌가 다른가? 현재 의학은 거기에 대해 신통한 답은 내놓지 못하고 있습니다. 인종에 따른 지능은 또 어떻고요? 우리는 아직 모릅니다. 그러나 AI가 그런 결과를 내놓았다고 해서 대뜸 '보통 남자가 더 나은 것은 사실 아니냐' 라고 하는 것은 매우 위험한 발상이 아닌가 합니다. 스포츠에서 흑인의 예를 드셨는데, 타이거 우즈가 나오기 전까지만 해도 흑인은 골프 못한다 그랬습니다. 제시 오언스 등장 이전엔 흑인은 능력이 안 되어 육상에서 백인 못 이긴다 했고요.... 흑인이 스포츠 잘한다는 인식 50년도 안 된 겁니다. 얼마 전 공기업 블라인드 해보니 최상위권은 전부 여자더라 하는 뉴스도 나왔죠. <- 이걸 놓고 '역시 여자가 남자보다 두뇌가 우수하다' 라고 하면 아주 성급한 일반화가 되겠죠? 

    그리고 인간의 경우에 평균적 경향이라는 건 있을 수 있어도, 개인간의 차를 극복하기 어렵습니다. 그만큼 개별적 능력에 있어서 개체간 편차가 큰 게 인간이라는 존재입니다. AI가 남자만 추천해주니까 보는 손해가 분명히 있기 때문에 아마존에서도 폐기 결정을 내린 것일 테고요. 

    어렵게 얘기할 거 없이 저 '여성'이라는 단어가 들어갈 자리에 동양인을 넣어보세요. 미국에서 현재까지 주류 자리를 굳건히 지켜온 건 WASP 백인입니다. 동양인이 역사에 등장한 지 몇십년 안 되었죠. 그렇다고 했을 경우 대학 입시를 AI가 주관한다면 백인 위주로 뽑을겁니다 분명히....

    8
  • 배고프고가난한백수
    452
    2018-10-11 14:03:35

    삽삽님 // 위에서 말씀하시길 남자가 적합하니까 남자가 많은거라고 본다고 하셨는데요. 그래서 남자들만 뽑는 것도 문제 없다고 생각한다고 하셨고요. 달리기를 예로 드셨는데 모든 달리기 종목에서 수상한 선수들이 전부 흑인이었나요? 저는 개인적으로 삽삽님과는 커뮤니케이션이 안된다는 느낌이고 이런 식의 논쟁으로 굳이 피로를 느낄 필요가 없다고 생각합니다. 애초에 문제 자체를 제대로 이해하지 못한다는 부분도 언급해드렸는데 전혀 효과가 없는 것 같습니다. 어차피 저와는 마주칠 일도 없을 것 같고 그렇기에 이런 식의 차이가 저에게 미칠 영향 또한 없을 것 같고 굳이 더 이상 사족을 달 필요가 없다고 느꼈습니다. 같은 IT 업계에 몸담으려는 사람의 입장으로서 하시는 일들이 잘 풀리길 기원하고 건승을 빕니다.

    -2
  • 승천하는_흑염룡
    868
    2018-10-11 14:47:03

    살다보면 모든 케이스를 다 접하게 되서 정답이 없는 것 같아요

    말씀하시는 내용을 보면 모두들 좋은 의견들 내셨고 다들 훌륭한 개발자신것 같습니다

    2
  • 앙앙이
    3k
    2018-10-11 14:52:23

      도돼체 ai 는 어떻게 검증할거죠.


    남자만 뽑는 ai 로직 문제를 발견 못했다는데

    문제 못찾는것이 당연한거 아닙니까?


    학습 데이터에 따라 달라지는데 

    그 많은 경우의 수를 갖는 ai 의

    문제점을 누가 디버깅 할수 있을까요.

    3
  • Ananya
    610
    2018-10-11 16:06:56

    @앙앙이 검증을 대학원에서 전공한 사람으로서 저도 그 문제가 늘 궁금하긴 했습니다. 로직에 문제가 없어도 데이터가 결국 잘못된 대답을 만들 수 있으니 말이죠. AI는 어떻게 검증할 것인가. 특히나 ai가 낸 결과는 객관적이고 믿을만하다는 편견이 있는 이런 상황에서는 말이죠. 일례로 구글에 영어로 beautiful woman 혹은 handsome man 이라고 치면 거의 백인만 나옵니다. 다른 인종의 미남미녀를 찾고 싶으면 검색어를 더 한정해야 결과가 나와요. 백인이 가장 아름다운가?에 대한 대답은 상식이 있는 사람이라면 쉽게 그렇다 라고는 못 하겠죠. 그러나 우리 사회의 미의 기준이 백인 중심으로 정립된 것도 사실이고요. 이걸 보고 배운 아이들은 백인을 선호하며 자라게 됩니다. 결국 그런 관념은 강화되죠. (아이에게 흑인 인형을 주면 아마 어린 아이들조차도 왜 못생긴 인형을 주냐며 울 거 같네요.) 우리가 이걸 무비판적으로 받아들인다면 끔찍한 결과들이 생기겠죠. 

    7
  • 피버타임
    140
    2018-10-11 16:39:22

    아마존의 초 엘리트 인력들이 온갖 머리를 짜내도 답없어서 폐기한 걸 보면, 일단 논리적으로는 여성 차별(?)에 대한 답이 안 나오는거 같습니다. 제 개인적으로는 이 인공지능의 채용 프로세스를 한국 환경에 대입하면 더욱더 답을 못 찾을거 같은 예감이...

    1
  • 쥬드노
    762
    2018-10-11 16:45:32
    성별 피쳐를 빼고 인식시켜도 남자위주가 될꺼라 예상해봅니다.
    -1
  • darong
    61
    2018-10-11 17:52:30

    제 생각엔 아마도 학습 데이터의 불균형 때문에 문제가 발생한 걸로 보입니다.

    예를들어 남자 지원자가 80%이고 여자 지원자가 20%이고, 동일 비율로 합격한다고 가정하면

    AI가 남자 지원자만 합격시켜도 80%의 정확도를 가지게 되죠. 

    이 경우말고 암진단과 같은 경우도 암진단 받을 확률이 낮기 때문에 무조건 암이 없다고 AI가 진단해도

    정확도는 매우 높게 나올 겁니다. 그래서 보통 Data Augmentation를 통해 학습 데이터의 불균형을 

    줄여주는데, 아마도 이 부분을 안했거나 부족했을 가능성이 있습니다.

    그리고 현재 딥러닝의 가장 큰 문제의 하나가 결과가 나온 원인을 설명할 수 없는 블랙박스 모델이라는

    것인데, 결과가 부정확하고 그 원인을 잘 설명할 수 없는 문제라면 딥러닝 모델을 적용할 수 없는 분야이겠죠.



    3
  • vollfeed
    408
    2018-10-12 04:54:30

    백수// ai에 관심 있으신것 치고는 통계의 착시는 약하시듯하네요. 동영상 하나 추천해드리겠습니다.

    https://youtu.be/oAHHUK0NC30

    통계의 극단과 랜덤 샘플은 다른겁니다.


    그냥 원글에 대해서 //

    현세대 AI는 보고 배운대로 결정을하죠. 창발성은 없고 통계적 수렴이 기본입니다. 

    솔직히 저는 원문을 봤을때 남/녀의 문제보다 다른게 더 눈에 띕니다.

    10년 이상의 경력! 

    자 단순하게 생각해봅시다. 

    프로그래머 20년 일한다. 그리고 전직은 없다 가정하면 저것만해도 상위 50퍼입니다.

    근뎌 현실은 적성문제로 남녀 모두 전직 심하죠. 여성은 출산 육아 문제도 있죠. 

    10년 이상이 50퍼는 커녕 5퍼도 안될것같습니다. 

    초년생은 이직을 원해도 자리잡은면 별로 안그러기도하구요.

    또 통계적 수렴에서 소수인 샘플이 기준조건에서 탈락되는건 당연한 거죠. 

    상위 5퍼가 경력 10년에 근사값이 되고, 학습한 데이터중 경력 10년 이상의 여성 프로그래머가 소수라면, 당연히 수렴되서 사라지겠네요. (출산/육아를 감안해 나이 40의 여성 프로그래머... 음... 1천명에 한명은 되려나요?)

    그런 샘플을 충분히 봤어야 AI가 좋다 나쁘다 판단을 내리죠. 본적도 없는거에 고평가가 나오면, 그게 버그인게 수학이죠.


    위에 글쓴분 말마따나 이건 정치적 문제지 

    통계적 추측의 정확성이 문제가 된건 아닙니라고 봅니다. 

    4
  • 지뢰공
    187
    2018-10-12 08:34:42 작성 2018-10-12 08:43:07 수정됨

    1. 공대에 남자가 많은 이유

    2. 남여 둘다 뛰어난 인재가 나올 확률을 1퍼라는 가정하에 남성지원자 500명 여성지원자 100명 일때,  뽑는 인재는 3명일 경우 결과는???


    그리고 일반적으로 상위층으로 갈수록 남성비율이 높아지지요. 공무원 5급 7급 합격자 성비도 보시기 바랍니다. 이건 남여차별이 아니라 어디까지나 실력을 바탕으로해도 결과는 같습니다.


    추가적으로 학력차별도 보면, 블라인드 채용해도 결국 인서울 4년제 비율이 많은 건 똑같은 건 어쩔수 없는 거지요.  다만 개천에서 용이 날수 있는 기회가 생기는 거지요.


    공대는 누가 뭐라고 해도 여자가 남자를 이기는 경우는 매우 드뭅니다. 


    반대로 여성비율이 많은 직무에 남자가 지원 했을 때 과연 이런 논란이 일어날까요? 

    1
  • 서비스지향개발자
    7k
    2018-10-12 09:11:21

    단순히 남녀 채용비율을 맞춰서 사용하면 될것을 폐지까지야..

    0
  • Ananya
    610
    2018-10-12 09:47:37 작성 2018-10-12 14:03:08 수정됨

    @서비스지향개발자

    우리나라면 몰라도 미국에서는 잠재적 문제가 있는 걸 알고도 대충 보정해서 썼다 하면 큰 법적 분쟁에 휘말릴 소지가 있을 겁니다. 특히 지금은 그나마 젠더 이슈였지만(젠더 이슈가 사소하다는 것은 아닌데, 우리나라와는 달리 미국 문화에서는 그나마 인종 이슈보단 덜 중요하게 다뤄지는 측면은 있습니다.) 나중에 인종 문제와도 얽혀있다는 것이 밝혀질 경우 아마존은 정말 궤멸적 타격을 입을 수도 있으니 그냥 알아서 안 쓰는 방향으로 가는 게 안전하겠죠.

    -----------------------------

    그리고  인간이라는 게 심리에 참 취약해서요. stereotype threat이라고 하죠. 여성은 문과 가는 게 보편적인 사회에서는 딱히 자기가 직접적으로 차별받는 게 없어도 무의식적인 기제가 작용해서 여학생들이 이공계 최상위권으로 올라가지 못하는 기현상을 보입니다. 여성만 그런 게 아니라 흑인 학생들도 그런 경향이 있어서, 심지어 아이비리그 수준 명문대에 다니는 흑인 학생들도 GRE 문제(즉 어려운 문제. 대학원 입학 자격시험의 일종이니만큼 명문대생도 어려움을 느끼죠.)를 내면서 "IQ 테스트의 일종입니다" 라고 말해주고 시험지 앞면에 "자신의 인종을 기재하시오" 라고 써뒀더니, 인종을 안 적었을 때에 비해 성적이 뚝 떨어졌다는 연구 결과가 있습니다. "내가 못하면 흑인 전체가 싸잡힐거야", "흑인은 원래 아이큐 떨어진다는데..." 와 같은 생각이 본인 의지와는 상관 없이 무의식적으로 머리에 떠오르면서 난관에 부딪혔을 때 쉽게 집중력을 잃거나 단념을 하게 만들어버린 거죠.

    게다가 비단 차별받는 인종이 아니라 백인이라고 하더라도 마찬가지입니다. 수학 시험을 보게 하고 시험장에 자기 빼고 동양인들 왕창 앉혀놓은 다음 '수학은 동양인들이 잘하지' 라는 암시만 던져줘도 성적이 뚝 떨어지고요. 남성도 마찬가지입니다. 명백히 여초인 사회(간호사, 화장품회사 등)에서는 일반적인 남성은 같은 스펙인데 공업 회사 간 남성보다 일 못한다고 구박 많이 받고 실제로 위축되어 일을 잘 못하는 경우가 많습니다. 자신과 비슷한 사람이 주위에 많을수록 사람은 안정을 찾고 더 좋은 퍼포먼스를 보여주기 때문에, 아직까지 공학에서 평균적으로 여성이 남성을 이기는 게 쉽지 않은 건 당연할지도요... (물론 그레이스 호퍼 같은 굇수는 있죠.) 연구에 따르면 이러한 현상은 만 10~11세 이후에 나타난다고 하니, 선천적 차이보단 확실히 환경적 요인이 큰 건 맞는 듯 합니다.

    이 부분에 대한 해결 방안은 구체적으로는 나온 게 없습니다. 사실 나오기도 어렵고요. 당사자가 독하게 마음먹고 '난 할 수 있어!' 하고 임했더니 성적 더 떨어지더랍니다 ^^;;  무작정 어퍼머티브 액션을 취할 경우 반발만 생길 거고요. 사회적으로 고정관념을 타파하려는 노력을 하는 게 중요할 것 같습니다. 

    6
  • Dive_Drink_Develope
    3k
    2018-10-12 10:04:39

    저 채용 AI의 학습데이터를 생각해볼까요.

    학습데이터 구성은 아마 "현재 고평가를 받는 상위레벨의 개발자 의 이력"

    일겁니다.


    성별을 보자면 결혼 육아등으로 경력단절/사회적 인식의 차이로 인한 진출 분야 갈림

    등으로 인해서 "현재 고평가를 받는 상위레벨의 개발자"는 대부분 남성일 가능성이 높죠.

    그리고 경력10년 문제도 비슷한 원인으로 인해 튀어나오는 문제일것이라고 보여지네요.

    고로 학습데이터 셋의 편향


    라고 생각을 했는데

    기본 학습데이터 셋의 편향....이라면 뭔가 해결책이 있었을텐데...

    뭔가 다른 발견하지 못한 요인들이 또 있었으려나요.


    4
  • 피버타임
    140
    2018-10-12 10:42:36

    그냥 어렵게 생각할거 없이, 회사의 들어오기 전까지의 어떤 과정을 거친 어떤 형태의 인물이 입사 후 회사에

    어떤 영향을 미쳤나. 이게 기본 알고리즘 일것입니다.

    당연히 일반적인 사람이 뽑는 인사도 마찬가지죠. 이 로직하에서 인공지능이 성별 편향적인 데이터를 도출

    해냈는데, 그걸 해결해볼려고 이렇게 해보고 저렇게 해봐도 안되었다 그런 결과인거 같네요. 그리고 위엣 분

    이 언급해주신 출산, 육아등의 문제도 분명 있는데, 당연히 알고리즘에 해당항목은 들어가 있을 겁니다. 경력

    단절도요. 성차별을 해소할려고 하는데, 그 정도 노력도 안해봤을까요? 그런 핸디캡을 주고 도출했는데도

    답이 안나왔다는거죠. 저 얘기는.

    1
  • 혹시 제가 설명을 잘못한건가 싶네요.
    AI 모델에 데이터 넣고 예측 작업을 해보면 학습된 데이터에 근사하게 출력됩니다. 잘 학습됐을 경우에요.
    근데 이 때 학습 데이터에 튀는 값이 소수 껴있으면 이런 값들에서는 상당히 둔하게 반응했습니다.
    예측된것들 하나하나 오차값을 비교해보면 대게는 어느 정도 수준이지만 튀는 값은 오차값이 커져서 평균 오차값을 높이는 주범이었습니다.
    저는 여기서 시작해서 나름 의견을 말한건데 뭔가 설명을 잘 못했나 싶네요.
    누가 적합한 지원자인지를 가려내기위한 트레이닝셋이 분명 있을겁니다. 당연히 현재 종사하는 사람들을 기준으로 잡았을테고 AI는 여기에 근접하는 사람들을 추려내는 것이겠죠.
    저런 결과로 남녀 나뉘어서 어떤 성별이 더 능력이 좋다고 여기는것은 너무 단순한 접근이 아닌가 합니다.
    비슷하게 단순히 특정 집단 사람이 더 많다고 그 집단 사람들 개개인이 더 뛰어나다고 하는 것도 반대하는 입장이고요.
    남녀 임금격차 문제가 있습니다. 이것만 놓고보면 여성이 차별받는다고 말할 수 있을까요? 전 반대입니다.

    써놓고 돌아보니 제가 지원자 숫자를 말하긴 했네요.
    제가 예시를 잘못 든것일수도 있겠네요. 아마존에서 만들던게 구체적으로 어떠한 방법으로 돌아가는지 모르니 제가 갈피를 잡지 못했던 것 같습니다.
    말하고 싶었던 것은 AI는 소수보다 많은 쪽에 가까워지려고 하는 경향이 있었고 이로 인해 발생된 문제이지 않을까 하는 의견과 집단이 그러하다고 해서 개개인도 집단따라 평가하는것은 옳지 못한것 같다는 의견이었습니다.
    1
  • _UnKnowN_
    261
    2018-10-12 16:54:59

    남자인지 여자인지 데이터를 제공하지 않고 테스트를 해봐야하지 않을까요?
    남성편향적이라니....데이터 기반으로 결과를 산출할텐데.....ㅡㅡ;

    1
  • errthin
    36
    2018-10-12 19:29:23 작성 2018-10-12 19:32:34 수정됨
    개발을 하려는 건지 남여 성비를 맞추려는 건지..
    0
  • lllllllllllllll
    6k
    2018-10-12 19:47:45 작성 2018-10-12 19:54:26 수정됨

    errthin // 뭐... 본문과는 상관없는 내용이지만 예전에 다양성이 충족되는 집단이 가장 우수한 결과를 낸다는 통계를 본 적은 있었습니다. 그래서 성비를 맞추는게 항상 나쁜 일은 아닐 것 같기는 하네요

    오히려 비슷한 성격의 엘리트만 모아둔 집단이 가장 성과가 저조했다는데... (자기들끼리 치고 박고 싸우느라 ㅋㅋㅋㅋㅋ) 어디서 본 내용인지 기억이 안나네요ㅜㅜ 책에서 봤었는데... 아웃라이어였었나... (8년 전에 봐서;;)

    1
  • coffpro
    90
    2018-10-12 23:50:42 작성 2018-10-12 23:55:09 수정됨

    애당초 데이터가 지나치게 치우쳐진 데이터니까 인공지능을 개발해도 저렇게 나오는건 너무 뻔한 결과가 아닐까 싶어요. (제 뜻은 남성 지원자 수>>여성 지원자 수 였을거라는 가정입니다. 그리고 프로그래밍 업계가 그렇듯 여성보다 남성 비율이 높은 것도 사실이고요) 제 생각에도 윗분 말처럼 성별변수를 빼고 학습을 시켰으면 이러진 않았을거 같습니다. 그렇게 되면 오히려 학벌이나 근무연한 같은 변수들이 우세이지 않았을까요? 차라리 성별을 뺴고 학습시킨 후에 그 결과를 역추적했을 때, 특정 요소들을 남성 지원자들이 더 많이 갖고있었다고 말하면 이해라도 될거 같은데..


    솔직히 인공지능은 있는 데이터를 학습했을 뿐인데 사회적으로는 그게 충분히 차별적이다라는 말이 나올수 있다고 보구요. 말 자체가 나오는 건 전혀 이상한게 아니죠. 특히 미국은 한국보다 훨씬 더 이런 이슈에 예민하니까 문제가 더 커지기 전에 적당한 선에서 끝내겠다고 발을 뺸거 같구요.



    1
  • coffpro
    90
    2018-10-12 23:52:31

    삽삽 // 남자가 여성보다 논리적이라는 주장은 최근에 많이 약해지고 있어요. 초대 프로그래머들 중에도 여자들이 충분히 많을 뿐더러.. 성별 블라인딩으로 코딩테스트를 했을 때 결과물로 성별 판별을 하는게 어려운 경우도 있다고 합니다. 미국에서 이에 대해 여러번 기사가 나오고 언급된 적이 있습니다. 주장하시는 바가 최근 동향이 업데이트가 되지 않은거 같아서요 

    2
  • 서비스지향개발자
    7k
    2018-10-13 06:13:55

    Ananya 잠정적 문제가 있다는 판단은 너무 섣부른 판단입니다.

    이슈는 채용비율이 상위권으로 남성편중 이라는 것이고

    채용비율을 적용하면 되는 것이죠.

    AI로 건강한 식단을 짜는데 채소 위주로만 나온다고 AI를 폐지 하기 보다 고기 비율을 적용함으로 써 해결할 수 있지요.

    대기업은 이슈에 민감하니 폐지하겠지만 

    오픈소스로라도 공개해주면 좋겠네요.

    개발자들이 힘들게 개발한 소스를 폐지한다니 안타깝네요.

    1
  • Ananya
    610
    2018-10-13 14:37:44

    @서비스지향개발자 // 워 그들을 얕보지 마십시오 ㅋㅋㅋ 뜨거운 커피를 시켜놓고는 엎은 다음 "뜨거우므로 주의"를 적지 않았다고 징벌적 손배소 청구하는 민족이 어메리칸~입니다 ㅋㅋㅋㅋㅋ

    그나저나 저도 아까운 모델이라는 생각은 듭니다. 공개를 하면 여러 방향으로 아마존에서 생각 못한 개선안이나 발전 방향이 나올 것이라는 생각이 드네요. 어렵다면 최소 학계에서라도 충분히 다뤄볼 기회가 제공되면 좋겠구요.  

    1
  • 아스키
    8k
    2018-10-15 14:22:14

    입력된 데이타가 한정적인데..참나..

    1
  • 전재형
    4k
    2018-10-16 14:17:51

    다들 간과하시는데... 아마존 머신러닝 개발자들이 바보이거나 편협자여서 그런 결과를 보인게 아닙니다.


    인풋 아웃풋 가장 단순하게ㅠ생각하면 지원서-> 누가 성과가 더 높은가였을텐데.


    여성이라는 키워드가 들어간 이력서를 가진 직원은 성과가 약하더라.. 라는 결론 을 학습한것 뿐이겠죠

    2
  • 조잉
    12
    2018-10-16 15:43:00

    댓망징창이네요....... 오키마저.. 실망

    1
  • _UnKnowN_
    261
    2018-10-17 14:53:20
    조잉 님, 어떤 부분이 댓망진창이라는 거죠? ;;;;;
    1
  • 모래반지빵야빵야
    53
    2018-10-17 17:51:23

    저 소스 갖고싶다.

    저것만 있으면 이직이나 취업할때 자소서는 걱정 없을듯.

    1
  • 모래반지빵야빵야
    53
    2018-10-17 17:56:31

    아 참고로 저 AI는 남자인지 여자인지를 구분하는게 아니라

    키워드에 점수를 부여하는 방식으로 설계된거라고 하네요

    1
  • 피버타임
    140
    2018-10-18 09:43:31

    조잉 // 댓망징창이요? 여러 의견이 오가고, 나름 근거를 제시하고 있고, 난장판 치는 사람도 달리 없는거 같은데, 어떤걸 보고 말씀하시는건지요?

    모래반지빵야빵야 // 그러면 페널티 자체가 감안이 안되었겠네요. 성별을 아예 구분안하는거면요. 성별을 구분한거는 인공지능의 결과로 통계를 도출한 다른 시스템이었겠네요.

    0
  • 모래반지빵야빵야
    53
    2018-10-26 11:54:43

    여자가 주로 쓰는 키워드들에 감점요소가 많았고

    남자가 주로 쓰는 키워드들에 가점요소가 많았다고 합니다.

    둘 중 하나겠죠

    입사한 여자들이 능력이 부족하다는 반증일수도 있지만

    아마존의 사내문화가 완벽하게 능력위주가 아니라 성별에 영향이 있을수도 있다는 추론도 가능하겠죠

    0
  • 로그인을 하시면 댓글을 등록할 수 있습니다.