[기고] AI와 기계학습에 대한 환상이 깨지고 있다
[기고] AI와 기계학습에 대한 환상이 깨지고 있다
  • 라파엘 마티 포스포인트 부사장
  • 승인 2018.11.27 10:41
  • 댓글 0
이 기사를 공유합니다

[파이낸셜신문=라파엘 마티(Raffael Marty) 포스포인트 리서치 및 인텔리전스 부문 부사장]  "정보보안 분야에서 실제로 적용되는 인공지능은 없으며 2019년에 개발될 가능성도 없다"
 
오늘날의 환경 속에서 끊임없이 진화하고 있는 수많은 위협 외에도 조직은 지속적인 정보보안 인력 부족으로 어려움을 겪고 있다 .
 
분석가들은 2021년까지 정보 보안 분야에서 일자리 350만개가 부족할 것으로 예측하고 있다.
 
이 공백을 메우기 위해 조직들은 빅데이터, 인공지능(AI), 머신러닝에 관심을 가져왔다.
 
▲ 라파엘 마티(Raffael Marty) 포스포인트 리서치 및 인텔리전스 부문 부사장 (사진=포스포인트)    

그런데 왜 안될까? 기타 산업 분야에서 이러한 기술은 엄청난 잠재력을 보여주고 있다. 의료 서비스 분야에서 인공지능(AI)은 더욱 정확한 진단과 더 적은 외과 시술로 가는 길의 문을 열고 있다.
 
마케팅에서 인공지능은 고객의 구매 추세 및 향상된 의사 결정에 대한 보다 나은 이해를 가능하게 한다. 교통 분야에서 자율 주행 자동차는 소비자의 편의와 안전을 위해 엄청난 잠재력을 보여준다. 자동차 인공지능으로 창출하는 수익은 2016년의 4억400만달러에서 2025년까지 140억달러로 증가할 것으로 예상된다.
 
정보 보안분야에서의 인공지능에 대한 소문이 계속 회자되고 있다. 지난 2년 동안 기계 학습과 인공지능의 장래성에 대한 장담은 마케터와 미디어를 주목을 끌었지만 결과적으로 잘못된 견해와 뚜렷하지 않은 제품 차별점을 보여주는 수많은 실패사례만을 남겼다.
 
경우에 따라서 인공지능 창업 기업들은 스스로 제공하는 제품 들에서 인간이 개입하는 부분이 얼마나 많이 포함돼 있는지 숨기고 있다.
 
반면에 관심있는 고객층과 함께 체크박스에 표시하는 것 외에 다른 이유가 없다면 머신 러닝기반 제품의 혜택은 너무 강렬해서 무시할 수 없다.
 
오늘날 순수한 의미의 정보 보안 인공지능은 존재하지 않으며 포스포인트가 예측하기로 2019년에 그것이 개발될 것으로 보이지도 않는다. 인공지능은 인지를 재현하는 것이지만 오늘날의 해결책은 실제로 인간이 새로운 교육 데이터 세트 및 전문 지식을 업로드해야 하는 기계 학습에 더 가깝다.
 
분석가의 효율성이 향상될지라도 현재로서는 이러한 프로세스의 경우 여전히 입력 즉 고품질 입력이 필요하다. 기계에 불충분한 데이터를 공급할 경우 그 결과물도 똑같이 불충분해 진다.
 
모니터링을 미세하게 조정하기 위해서 기계는 상당한 양의 사용자 피드백이 필요하다. 그것이 없으면 분석가들은 새로운 결론을 추론해 낼 수 없다.
 
반면에 머신 러닝은 보안 분석 및 보안 관제 센터(SOC)운영에 이상이벤트 탐지로 명확하게 적용된다. 사람과 달리 기계는 시스템의 ‘기준’ 또는 ‘정상’ 행위를 명확하게 인지 및 분석가의 검토를 위한 비정상적인 것을 발견하면서 하루 동안에 수십억개의 보안 이벤트를 처리할 수 있다.
 
분석가는 연관성, 패턴 일치, 비정상행위 탐지 등을 통해 위협을 보다 신속하게 찾아낼 수 있다. 보안 관제 센터(SOC) 분석가가 단일 보안 경고를 분류할 경우 몇 시간이 걸릴 수 있지만 기계는 단 몇 초 만에 이를 수행하고 심지어는 업무 시간 이후에도 계속 일할 수 있다.
 
하지만 조직은 관련된 위험에 대한 이해없이 이러한 기술에 너무 많이 의존하고 있다. 알고리즘은 비정상적인 데이터 포인트와 그것이 수집된 환경에 의해 도입된 편향적인 정보가 제거되지 않은 훈련 정보가 입력될 경우 일부 공격을 놓칠 수 있다. 또 특정 알고리즘은 너무 복잡해서 특정한 이상 징후를 유발하는 요소를 이해할 수 없다.
 
이 기술과는 별도로 투자는 정보 보안 인공지능에 또 다른 골치 아픈 영역이다. 인공지능 기업에 초기 자본을 투자한 벤처 투자가들은 적절한 시기에 투자 수익을 올릴 것으로 기대하고 있지만 인공 지능 버블에 대해서는 많은 전문가들이 우려하고 있다. 옥스포드 대학교 컴퓨터 과학부의 마이클 우드리지(Michael Woodridge) 학과장은 과대 평가된 ‘협잡꾼과 야바위꾼’들이 현재까지의 인공지능 발전을 과장하고 있다고 자신의 우려를 표명했다.
 
스탠포드 대학교의 연구원들은 인공 지능의 활동을 추적할 수 있는 공개 비영리 프로젝트인 인공 지능 지수(AI Index)를 시작했다. 2017년 보고서에서 그들은 인공지능 지수 전문가들조차도 현장에서 진행되는 상황을 이해하고 추적하는 데 어려움이 있다고 밝혔다.
 
인공지능 연구를 위한 재정 지원이 절박해진 상황은 높은 기대에 미치지 못하는 결과로 인해 의회가 관련 기금을 삭감했던 1969년 ‘인공지능의 겨울(AI Winter)’을 연상시킨다. 하지만 보안의 틈을 찾아내서 가치 있는 데이터를 훔치는 해킹의 도구로써 인공지능을 계속 발전시키고 있는 공격자 전술은 투자에 구애를 받지 않는다.
 
해킹 효율성의 가장 중요한 기준인 무기화된 인공지능은 공격자가 무엇을, 언제, 어디에서 공격할지에 대한 전례 없는 통찰력을 제공한다. 한 예로 인공지능으로 작성된 피싱 사기 트위터 메시지는 인간이 작성한 것보다 실질적으로 더 나은 변환율을 가지고 있는 것으로 나타났다.
 
인공적 공격툴은 가공할만한 상대다. 그리고 우리는 인공지능 및 머신 러닝을 둘러싼 계속 진화하는 무기 경쟁을 목격하게 될 것이다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 서울특별시 마포구 합정동 386-12 금성빌딩 2층
  • 대표전화 : 02-333-0807
  • 팩스 : 02-333-0817
  • 법인명 : (주)파이낸셜신문
  • 제호 : 파이낸셜신문
  • 주간신문   
  • 등록번호 : 서울 다 08228
  • 등록일자 : 2009-4-10
  • 발행일자 : 2009-4-10
  • 간별 : 주간  
  • /  인터넷신문
  •   등록번호 : 서울 아 00825
  • 등록일자 : 2009-03-25
  • 발행일자 : 2009-03-25
  • 간별 : 인터넷신문
  • 발행 · 편집인 : 박광원
  • 편집국장 : 임권택
  • 전략기획마케팅 국장 : 심용섭
  • 청소년보호책임자 : 임권택
  • Email : news@efnews.co.kr
  • 편집위원 : 신성대
  • 파이낸셜신문 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2024 파이낸셜신문. All rights reserved.
인터넷신문위원회 ND소프트