이세돌 은퇴대국, 한돌의 '축 버그' 이유는? AI는 과연 안전할까?
  • 박은상 기자
  • 승인 2019.12.21 11:17
  • 댓글 0
이 기사를 공유합니다

사람과 AI의 바둑 경기 진행을 보는 시각의 차이
'축 버그'는 무엇인가?
'사람도 하기 힘든 실수', AI의 문제점은?
출처 : NHN, 이세돌 은퇴대국, 한돌의 '축 버그' 이유는? AI는 과연 안전할까?

[문화뉴스 MHN 박은상 기자] 지난 18일 펼쳐진 이세돌 9단의 은퇴대국에서 이세돌 9단이 바둑 AI 한돌을 상대로 예상치 못한 승리를 따내며 화제를 모았다. 보통 2점 접바둑에서 흑이 덤을 주는 형태로 진행될 경우 통계적으로 많은 프로기사들이 AI에게 패배했기 때문이다. 하지만 이세돌 9단은 92수의 비교적 빠른 시간에 상대의 항복을 받아냈다. 그리고 이 과정에서 한돌의 실수가 논란이 되고 있다. 

알파고와의 4국 이후 다시 한번 '78수'로 인해 한돌의 승률이 급격하게 내려갔고, 이후 한돌은 초심자가 보기에도 당연히 안되는 수들을 몇 수 두다 패배를 선언했다. 이세돌 9단의 78수는 분명 좋은 수였지만, 한돌이 제대로 응수했다면 좀 더 경기를 길게 가져갈 수 있었다. 하지만 한돌은 다소 엉뚱한 수를 두었고, 경기에서 가장 중요한 3개의 백돌이 잡히게 되었다. 전문가들은 이러한 현상이 '축 버그'때문에 발생했다고 말했다. '축'이란 상대에게 둘러싸인 돌이 살기 위해 밖으로 한 발씩 나아가도 상대가 그 돌을 단수를 계속 칠 수 있게 되는 상황이며, 결국 바둑판의 끝에 가면 그 돌들은 잡히게 된다. 이 과정에서 중간에 도망가는 돌을 도와주는 돌이 있으면 오히려 상대는 그 돌들을 잡지 못해 곤란한 상황에 놓이게 된다.

출처 : 김성룡 유튜브, 축 상황

축의 진행은 단순하기 때문에 축의 마무리까지 20~30수가 필요해도 사람은 쉽게 축이 되는지, 안되는지를 판단할 수 있다. 하지만 AI는 돌이 한 개씩 놓아질 때마다 매번 경우의 수를 다시 생각해야 하기 때문에 단순한 축의 진행 계산이 오히려 사람보다 부정확할 수 있다. 따라서 따로 축인지 여부를 판단하는 과정을 추가하지 않는다면 앞서 경기와 같이 '축 버그'가 발생할 수 있다. 이는 엄밀히 말하면 버그나 에러라기보다는 실수에 가깝다. 즉 오히려 깊고, 복잡하게 생각해 초심자들도 하지 않는 실수를 하는 것이다.

'축 버그'는 알파고 이후에도 꾸준히 제기되어온 AI 바둑 프로그램의 문제이다. 하지만 대부분의 경우 이는 큰 문제가 되지 않는데 강화 학습을 기반으로 프로그램이 학습되기 때문에 AI는 '축 버그'가 발생되는 상황을 기피하는 방향으로 바둑을 진행하게 되기 때문인 것으로 보인다. 즉 핸디캡 없이 사람과 호선으로 경기를 할 경우 이와 같은 실수가 나올 상황이 잘 나오지 않지만 접바둑의 경우 처음부터 불리하게 시작하기 때문에 이러한 버그가 발생할 위험을 감수하고 경기를 진행하게 되고, 은퇴대국 1국과 같은 결과가 야기될 수 있다.

사실 마음만 먹으면 축인지를 판단하는 코드를 추가해 어떤 상황이 축에 걸리는지를 알 수는 있을 것이다. 하지만 강화 학습 과정은 한수 한수의 결과에 가치를 부여하기 때문에 어떤 돌들이 축으로 죽는지, 사는지를 알 수 있다고 해도 그것에 가치를 부여하는 것은 어려울 것이다.

출처 : 이세돌 페이스북, 이세돌 은퇴대국, 한돌의 '축 버그' 이유는? AI는 과연 안전할까?

한돌의 이번 경기 패배를 통해 또다시 AI의 문제점이 재조명되고 있다. 앞서 한돌의 실수와 같이 인간은 쉽게 판단할 수 있지만 AI는 이를 판단할 수 없는 경우가 생긴다면 자율 주행 등과 같이 사람의 목숨과 직결되는 상황에서 AI를 전적으로 신뢰하기는 어려울 것이다. 이런 문제점이 아직까지 많은 분야에서 AI 도입에 거부감을 느끼고 있는 이유이기도 하다.

오늘 21일 12시에 이세돌 은퇴경기 마지막 대국이 이세돌의 고향 전남 신안군에서 열릴 예정이다. 1국과 2국 모두 패자에서 치명적인 실수가 등장했고, 경기가 빨리 끝났기 때문에 마지막 대국은 서로 최선을 다해 후회 없는 경기가 되길 기원한다.

-----

이세돌 은퇴대국, 한돌의 '축 버그' 이유는? AI는 과연 안전할까?

사람과 AI의 바둑 경기 진행을 보는 시각의 차이
'축 버그'는 무엇인가?
'사람도 하기 힘든 실수', AI의 문제점은?







 
MHN 포토
박은상 기자 | press@mhns.co.kr

독자와 공감을 통해 더 나은 내일을 만들겠습니다.

-최신기사
-인기기사
댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.