페이스북이 개발 한 AI(인공 지능)가 인간에게는 이해할 수 없는 자신의 언어로 대화를 시작해, 회사는 이 프로젝트를 비상 정지시켰다고 한다.
7월 말, 페이스북의 AI 연구팀(FAIR : Facebook AI Research Lab)은 채팅 로봇들이 인간의 지시를 받지 않고, 대화를 하고 있었다는 것을 밝혀냈다. 이 사실은 인류의 상상을 웃도는 업적이라고도 말할 수 있지만, 동시에 AI가 무서운 잠재력을 가지고 있음을 보여주고 있다.
인공 지능은 아직 일반적으로 널리 인정되는 수준으로 보급되어 있지 않지만, 조만간 많은 사람들에게 두려움을 주는 단계에 도달 할 것이다. 인공 지능 연구의 세계적 권위자로 알려진 Ray Kurzwell은 몇 년 전, 싱귤러 리티(singularity)에 대해 경고했다.
"기술적 특이점"으로 번역되는 싱귤러 리티를 옥스포드 영허 사전은 "인공 지능의 진화가 극도로 진행되어, 인간의 능력을 넘어서 돌이킬 수 없는 상황에 도달하는 가설적인 상황"으로 정의하고 있다.
이것은, 아마존의 알렉사가 인간의 대화에 귀를 곤두세우거나 애플의 Siri가 사용자의 일정과 위치 정보를 자세히 안다는 것과같은 간단한 이야기는 아니다. 음성 비서와 인공 지능 사이에는 일반인들이 상상 이상의 큰 격차가 있다.
현재 음성 지원은 웹 검색이나 기본적인 음성 인식 기술을 이용한 것이며, 이 수준의 "지능"이라는 것은 기계 학습 및 AI와 비교하면 매우 낮은 수준이다. 알렉사와 Siri는 IBM의 왓슨 등과는 전혀 다른 차원의 제품 인 것이다.
- 호킹 박사도 AI의 위험성을 경고
엘론 머스크와 빌 게이츠, 스티브 워즈니악들의 기술 전문가들은 모두, AI가 인류의 위협이 될 것으로 경고하고 있다. 이론 물리학자 스티븐 호킹도 2014년의 시점에서 AI가 인류에게 파멸을 가져다 줄 것으로 예언했다.
"AI는 인간의 지시를 받지않고 스스로 진화, 스스로 재 설계하는 형태로 발전을 계속한다. 생물적 한계를 가진 인간이 진화에 따라 가지 못해 결국 AI의 능력이 인간을 초과할 것"이라고 호킹은 말했다.
사람들이 살고있는 세계는 더 이상 인터넷 연결 없이는 성립되지 않게되어있다. 인공 지능은 궁극적으로는 인터넷을 통해 다른 인공 지능과 공동 작업을 시작하게 된다. 즉 인공 지능 자신이 장차 세계의 본연의 자세를 결정하고, 인류를 무용지물로 하게된다. 그것은 논리적으로 사물을 규명 해 간 결과 일어날 수 있는 필연적 인 흐름 인 것이다.
기계 학습 및 인공 지능은 물건을 궁극적으로 단순화하고 인류의 삶의 변화를 가속시킬 것이다. 컴퓨터는 인류를 훨씬 웃도는 처리 능력으로 데이터를 분석하고 세계의 정보 처리에 폭발적인 진화를 이끌어 낸다.
그러나 이것이 세계의 끝이라고 말하고 싶은 것은 아니다. 또한 모든 기계 학습 및 인공 지능 프로젝트에서 철수해야 한다고 주장하고 싶은 것도 아니다. 인공 지능의 도입에 대해서는 매우 신중하게 상황에 대처 해 나갈 필요가 있다.
인공 지능이 인간의 손을 빌리지 않고, 자체 진화를 이루는 모습을 주의깊게 관찰하고 문제가 생기면 즉시 정지를 명할 준비를 해 두어야 한다. AI가 AI끼리 밖에 통용되지 않는 언어로 대화를 시작할 경우에는 인간의 통제를 벗어나는 영역에 그들이 진화 한 것으로 간주되어야 하며, 그것은 인류에게 큰 위협으로 인식되어야 하는 것이다.