안녕, 인간

 

 왼쪽 위에 쓰여져 있는 "부와 권력을 지배하는 인공지능의 보이지 않는 공포가 온다"라는 말에 인공지능에 대한 이야기 임을 짐작하고 나의 전공과 관여가 있기에 책을 읽었다. 작가는 인공지능에 대한 소개보다는 인공지능 기술이 앞으로 사회에 어떻게 작용하며 우리가 대응하고 살아야 하는지 질문을 던진다. 사실 기술서보다는 인문학 서적이다.

(글로 모든 걸 쓰자면 너무 길다 ㅠㅠ)

 

 저자는 말한다. "인공지능 기술이 인간을 완전 대체할 수 없다. 인간과 협력하도록 해야한다."

 

 새로 꺠달은 것은 인공지능 사회에서는 윤리적이고 도덕적인 부분을 고려할 것이 너무나도 많다는 것이다. 좀 더 쉽게 말해, 기계가 사람이 대체하는 분야에 대해서 그 "알고리즘"에 대해서 많은 논의와 대화와 의심이 이루어져야 한다.

 

 재판을 받는 사람이 다시 재범 할 확률을 알려주는 프로그램을 통해 형량을 결정해야 하는가?

- 알고리즘 설계에 따라 흑인이 더 차별받고 남자가 더 차별받고 가난한 자가 더 차별받도록 설계될 수 있다.(실제로 그랬다. 엄청난 도덕적 후폭풍이 몰려왔다.)

 

즉 알고리즘의 설계에 따라 기득권을 이득을 보고 서민들은 피해를 보는 구조를 가질 수 있다. 

잘못된 알고리즘 설계가 누군가의 보조지원금을 끊어 생명을 망칠 수 있다.

 

 특히, 자율주행자동차 이야기에서 지금 기술로는 완전한 "대체"가 힘들다는 것을 보여주었다. 즉, 위급한 상황에 대해서 "인간의 개입"이 필요하다. 그것을 전제로 지금 자율주행자동차를 만드는 과정이다. 아직 기술의 발전이 부족해서 일 수 있지만 이것을 통해 우리는 기계의 완전 대체가 아닌 "인간과 기계의 협력"이 필요하다는 생각이 든다.

 

 에술 부분에서, 기계가 작곡은 할 수 있지만 그것은 이미 만들어진 작품에 대한 학습을 통해 창조를 "흉내"내는 일이다. 아이러니한 것은, 기계가 엄청난 학습으로 만들어진 노래를 사람이 만든 노래보다 좋아했다는 여러 조사가 있었다. 하지만 이부분에서 내 생각은 창조의 부분은 인간만의 번뜩이는 아이디어, 영감, 인간의 고유한 "영혼"을 갈아넣는 일이라 생각한다. 기계가 도움을 줄 수 있으나 표현의 완성은 인간이어야 한다. 

 

 범죄 부분에서는 , 얼굴인식 시스템의 부족함을 꼬집는다. 나도 핸드폰 인식을 하면 가족끼리 잠금해체를 할 수 있다는 이야기를 주변에서 들었고 확인했다. 전공생이기도 해서 잘 알지만 아직 신체정보를 통한 100% 신분증명이라는 것이 단순하게 쉽게 값싸게 이루어지지 않는다. 기계로 확인과 더불어 사람의 최종적인 확인과 판단이 필요한 부분이다. 항상 알고리즘이 완벽하게 모든 것을 맞춘다는 신뢰를 가지기 보다 계속 의심하고 확인해야한다.