AI 해킹과 제로데이, 스카이넷?

프로그램의 취약점을 이용한 해킹을 말하는 제로데이(Zero-day).

 

AI 기술의 발전으로 관련 해킹이 더욱 급증할 것으로 보인다.

프로그램의 취약점을 인간 사용자보다 훨씬 더 정밀하고 빠르게 찾을 수 있을 테니.

 

또한 그 반대로 생각하면, 관련 보안 분야에서의 방어적 AI 활용도 급증할 것으로 보이고.

 

특히, 기업은 물론이고 국방 쪽은 필연적으로 AI를 활용하게 될 것인.

 

AI가 보안 혹은 국방에 활용될 경우 위험성은 없을까?

 

미래에 기계가 인간을 침략한다는 '터미네이터',

그 영화에서 등장하는 AI '스카이넷'이 현실화된다면 이 시나리오가 가장 개연성 있지 않을까 싶다.

그것이 터미네이터3의 스토리와 비슷하기도 하고.

 

AI가 '악의적 의도를 품는다'라고까지는 말을 하진 못하겠지만,

그 안정성을 확신할 수는 없기에 원하는 기능을 제대로 실행하지 못하거나

또 그로 인한 위험을 초래하는 결과가 없다고 보장할 순 없는 것이다.

 

물론 인간보다는 안정적이라지만,

그것의 판단 과정을 인간이 검증할 수 없고,

또 활용 범위가 넓어질수록 일말의 오판 가능성이라도 치명적인 결과로 이어질 수 있기 때문에.

 

가령, 우리가 바둑 AI의 수를 검증할 방법이 없듯이 말이다.

해설자도 AI의 결과물에 옳다 그르다라는 말을 하지 못한다.

그저 AI를 통해 사람의 수의 승률을 분석하는 게 전부로, 정작 AI가 옳은지는 판단할 방법도 능력도 없는.

 

과거의 프로그램들은 소스를 뜯어보면 판단을 내리는 과정을 알 수 있었다.

하지만 지금의 AI는 그 판단 과정을 전혀 알 수 없으니.

즉, 절차적 검증이 전혀 안 된다는 말이다.

 

그나마 사람이 견제 가능한 부분은 결과물에 대한 검증(필터링) 정도인데,

과연 다양한 결과물을 어떻게 일괄적으로 검증할 수 있을까 싶은.

바둑로 치자면 기본된 규칙이나 착수 금지점 같은 것을 설정하는 것인데, 굉장히 제한적 접근일 뿐인.

 

심지어 그런 제한적 검증조차 AI에게 맡길 수밖에 없게 될지도 모르니.

 

아무리 공상과학 소설의 스토리라지만 대안을 준비할 필요는 있어 보인다.

나중에 경쟁적으로 이를 활용하게 될 때는 속도 경쟁에 밀려 검증에 취약해질 수도 있기 때문이다.