AGI의 시대

 

도서명 :  AGI의 시대

출판사 : 한빛미디어

 

지은이 : 한상기

 

독서 기간 : 2024-12-15 ~ 2024-11-25

 

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

 

이 도서를 선택하여 읽기전에는 AGI 에 대해 아무것도 모르는 상태이고 어디서 들어만 본 상태라 해당 도서를 선택하게 되었다. 

 

요즘 생성형 AI 가 너무 화두가 되고 있고 너무 빠른속도로 발전하고 있어 현업에 있는 나 조차도 따라가기 힘들 정도의 속도로 발전하고 있다.

 

그래서 기술적인 부분만 쫓다가 보니 어느 순간 현재 AI에 대한 여러 정의들이 나와있고 현재 AI가 이룬 시점과 추후 미래에 어떤 AI를 목표로 하는 지 등 이러한 부분의 정리들이 나에게 부족하단 생각이 들었다.

 

우선 목차 부터 살펴 보면 아래와 같다.

 

| 1부 | AGI의 시대
1장 논쟁의 중심, AGI
2장 AGI의 잠재적 위험

| 2부 | 얼라인먼트: 연구와 정책
3장 얼라인먼트 문제란 무엇인가
4장 얼라인먼트 연구의 주요 방향
5장 얼라인먼트 연구 전문 그룹
6장 얼라인먼트 문제에 대응하는 주요 기업의 접근 방법

 

| 3부 | 정책적 대응
7장 AI 안전과 통제를 위한 주요 국가의 정책 및 국제 협력

 

위 목차를 보면 가장 중점이 되는 부분이 얼라인먼트로 볼 수 있다. 그보다 먼저 AGI 를 먼저 정의 내리면 일반적인 AI와는 달리 인간처럼 다양한 작업 수행이 가능한 AI를 말한다. 

 

현재는 ANI 처럼 특화 된 도메인에 해당한 AI가 주를 이루고 있는 상황이다.

 

이러한 상황에서 AGI의 행동과 인간의 목표를 일치 시키는데 발생하는 문제를 얼라이언트 문제라고 한다.

 

여기서 여러가지 문제들이 있는데 목표의 오해라는 부분이 있다. 예시를 들면 AI가 교통사고를 줄여라 라는 목표를 받았을 때 교통사고가 나지 않으려면 차량 운행이 없는게 가장 쉬운 방법이여서 차량의 운행을 막아버리는 일이 생길 수 있다.

 

이러한 부분은 사실 AI에게 여러 조건들을 주며 실험을 하면 나아지긴하겠지만 이러한 실험들도 여러번 진행하고 수많은 경우의 수를 고려해야하기에 어려운 부분도 존재한다.

 

그리고 가장 인상적인 부분의 문제는 스캔들의 도구화였다. 예시를 들면 이익을 최대화하라 라는 목표에서 AI가 환경 파괴를 감수하고 자원을 착취하는 이러한 예시이다. 이러한 윤리적인 부분을 어떻게 알려주고 조정해야할 지 너무 어려운 문제로 마주한 부분이다.

 

그럼에도 해당 도서에서는 이러한 문제들을 해결하기 위해 몇 가지 제시를 해주었다. 그 중 가장 중심이 되는 것은 인간 중심 설계이다. 

 

AI의 목표를 인간의 복잡한 가치 체계와 일치시키기 위한 설계 방법론인데 이러한 설계가 가능하면 윤리적인 부분과 현실에서 고려해야할 것들을 충분히 고려한 상태에서 문제 해결하는 AI가 될 것이라 생각한다.