독서토론모임 시드니시나브로 – 인공지능(Artificial Intelligence): 능력과 한계

독서토론모임 시드니시나브로 인공지능(Artificial Intelligence): 능력과 한계 ※ 3월의 첫모임 주제 […]

독서토론모임 시드니시나브로

인공지능(Artificial Intelligence): 능력과 한계

※ 3월의 첫모임 주제 ‘4차 산업혁명’ 관련 ‘AI’ 관련 주제로 발제 _ 편집자 주

인공지능의 정의: 컴퓨터가 지능이 필요한 일을 하게 하는 기술

인식 → 상황이해 → 행동 → 학습 → 고도의 자동화, 의사결정, 그리고 사람과 같은 상호작용

놀라운 기술 발전

– 반도체 기술의 발전 : 혁신적으로 작아진 컴퓨터와 엄청난 양의 계산처리

– 통신기술의 발전 : 많은 양의 정보가 어디에 있던 순식간에 가져올 수 있음

.이러한 기술들을 통합해서 세상의 문제를 풀어내는 것 : 컴퓨터 소프트웨어

.즉, 인간의 지식과 경험을 코딩(coding)한 해결책

.이런 소프트웨어 중에서 인간처럼 똑똑하게 잘하면 인공지능

.지난 70년 컴퓨터의 역사는 인공지능의 역사

최근 소개된 인공지능의 놀라운 성과들

.인공지능과 사랑에 빠진 보험업계

.자동차와 결합한 인공지능

.중국-수학문제 빅데이터로 푼다

.일본-인공지능으로 동영상 분석

.주식투자, 바둑, 그림, 작곡, 소설, 기사 작성 등

그렇다면 이렇게 놀라운 인공지능이 어떻게 만들어졌을까?

– 인공지능은 어떤 특정 한 분야의 기술이 아니라, 목표라고 보는 것이 바람직하다.

– 인공지능은 사람이 전달해준 지식을 기반으로/이용해서 만들어진다. 즉, 사람이 전달해준 지식을 가지고 정해진 명령대로 컴퓨터가 수행을 했는데 나온 결과물이 굉장히 지능적이더라.

– 그렇다면 어떻게 컴퓨터에게 지식을 전달하나?(즉, 인공지능 개발 방법)

.코딩(Coding): 사람이 먼저 획득한 지식을 컴퓨터에게 넘겨주는 지식처리형 시스템

.기계 학습(Machine Learning): 컴퓨터가 데이터에서 패턴(pattern)을 찾아내 스스로 학습하는 인공신경망 시스템

인공지능 개발 방법론

.신경망이 복잡할수록 다양한 문제를 해결할 수 있는데 이 복잡한 신경망을 학습시킬 수 있는 방법을 최근에 발견 → 딥러닝(Deep Learning) : 시행착오로부터 학습. 즉, 반복인 시행을 통해 성공하면 따라하고 실패하면 회피. 이 과정을 반복하면서 능력이 좋아짐.

.인공지능은 자기 복제가 가능. 소프트웨어이기 때문에 능력이 동일. 서로 경쟁하면서 기술을 축적.

.인류가 수천년간 쌓아온 지식을 인공지능은 능가함. 또한 인류가 전혀 생각지 못한 방법으로 문제를 해결함. 예) 알파고[사람이 두는 바둑 기법이 아님]

.신약계발, 에너지 개발에서도 많은 성과를 내고 있음.

인공지능의 한계

– 인공지능의 능력은 데이터의 양과 질에 결정됨. 즉, 인공지능에 쓰레기를 넣고 학습시키면 결과는 쓰레기일 뿐 → 지식/학습데이터 획득에 많은 노력이 필요함.

– 알고리즘(algorithm)을 만드는 개발자가 편견(bias)-의식적 혹은 무의식적-을 가질 수 있음. 개발자의 편견이 그대로 인공지능에 전달이 디면 이것에 기반해 편견이 담긴 결정을 인공지능이 하게 됨.

– 인공지능은 자율적 의사결정 능력+데이터 학습 능력이 있기 때문에 개발자의 의도를 벗어날 가능성이 있음.

.지속적인 관찰과 제약이 필요함(검증되지 않은 인공지능의 사용은 위험할 수 있음).

.인류의 중요한 의사 결정시, 인공지능의 사용이 바람직하지 않다.

– 인공지능의 가장 치명적 단점 → 인공지능의 사고/생각하는 과정을 인간의 언어로 설명하지 못함(인간과 소통하는데 취약).

.왜? → 인공지능 자신도 모르고 인간도 모름. 예) 알파고, 잘하다가 4번째 짐. 왜 이상한 수를 뒀는지 물어도 모름. 알파고도 모르고 알파고 만든 사람도 모름.

– 인공지능은 어떤 한 케이스에서 학습을 했어도 비슷한 케이스를 만나도 적용을 못함. 즉, 일반화 능력이 떨어짐(학습된 능력의 타 분야 적용이 제한적).

정리

– 인공지능은 대체로 전지전능함. 하지만 때론 이유를 설명 못하고, 배운 것을 비슷한 문제에 적용하지 못함. 그렇다면 이러한 인공지능을 우리가 어떻게 활용해야 할까?

– 사람은 이해하는 존재임. 이해하지 못하는 인공지능을 어떻게 받아들이나?

– 인공지능이 인류이성의 종말을 가져온다는 우려.

– 인공지능과 협업하고 인공지능이 선획득한 지식을 배워야 하는 시대에 살고 있다.

– 인공지능의 가치는 다양한 분야에서 활용이 가능하다는 점(교통, 예술, 노동, 보안, 공공복지, 교육, 의료, 홈서비스 등).

– 모든 국가와 기업에서 인공지능 능력을 갖추기 위해 노력중.

– 인공지능을 제대로 활용하기 위해서는 인공지능의 능력과 한계를 정확히 알고 있어야 하고, 인공지능의 능력을 알지 못해 오는 기회의 손실도 문제. 그러나 더 큰 문제는 인공지능을 한계를 알지 못해 가지게 되는 황당한 기대 / 참고: 김진형 KAIST 명예교수

김광덕 교수(빅토리아대학)