[Korean] GenAI에 대한 잡생각 (1/4): AI의 발전, 디지털화된 '나'의 증명?
Read this post in [English].
얼마 전 한 친구로부터 GenAI가 도대체 뭐냐는 질문을 받았다. IT 업계에 종사하지 않는 친구였는데, 설명하려다 보니 정작 나조차 IT의 최전선인 보안(Cybersecurity) 일을 하면서도 이에 대해서 알고 있는 것이 얼마 없음을 느꼈다. 주말동안 이것저것 자료를 찾아보면서 요새 이슈, 보안 관점에서 고려할 점, 그리고 AI 관련된 잡생각을 정리해봤다.
이 글은 4개 구성으로 나뉘어 있다.
- 1. AI의 발전, 디지털화된 ‘나’의 증명? (이 글)
- 2. 가짜 정보, 사기, 피싱
- 3. Safe, Secure AI
- 4. AI 뇌피셜
생성적 인공지능(GenAI)은 텍스트, 이미지, 음악, 코드 생성에 이르기까지 다양한 분야에서 혁신적인 결과물을 생산해내고 있다. 대표적으로, OpenAI의 ChatGPT, 구글의 Gemini와 같은 대규모 언어 모델(LLMs)은 언어 번역, 기사 요약, 질문 답변 등 다양한 언어 관련 작업을 수행한다. 또한, Midjourney와 같은 시각적 창작 도구는 이미지와 아트워크 생성을 가능하게 한다.
생각해보면, GenAI가 새로운 결과물을 생성하는 방식은 인간이 창의력을 발휘하는 과정과 상당히 유사한 것 같다. “모방은 창조의 어머니”라는 말처럼, 인간은 기존의 지식과 정보를 어떻게 연결하고 조합하느냐에 따라 창의적인 결과물을 만들어낸다. 이와 유사하게, AI는 방대한 데이터셋을 바탕으로 기존의 결과물을 재해석하며 패턴을 학습하고, 학습된 패턴을 확률적이고 유기적으로 결합하며 인간이 느끼기에 새롭고 독창적인 작품을 생성한다. 이러한 창작 과정에서 중요한 것은 데이터와 그로부터 추출할 수 있는 지식의 양과 질이다.
어떤 사람들은 AI가 진정한 의미에서 창의적일 수 없다고 주장한다. 창의성은 인간의 주관적 경험과 감정에서 비롯되며, AI는 이를 완전히 모방하거나 이해할 수 없다는 것이다. 하지만, 현재 AI의 한계는 인간의 오감(시각, 청각, 촉각, 미각, 후각)을 완벽히 모방하거나 이해하지 못한다는 점에 있지 않을까? 이러한 감각들은 인간이 데이터를 습득하는 인지 과정에 깊은 영향을 끼치며, 결과적으로 창의력에 영향을 미치게 되지 않을까? 현재의 AI는 주로 시각과 청각에 의존하지만, AI가 다양한 센서를 통해 인간의 오감을 모방하고 이를 바탕으로 세상을 경험하며 데이터를 쌓으며 지속적으로 학습할 수 있는 능력을 갖춘다면, AI는 단순한 모방을 넘어서 인간과 동등하거나 그 이상의 창의적 사고를 할 수 있는 단계로 나아갈 수 있을 것이라 생각한다. 빅테크 기업들은 이미 인간의 오감을 반도체로 구현하는 연구를 진행하고 있더라.
최근 공개된 OpenAI의 Sora는 AI가 프롬프트 입력만으로 비디오를 생성할 수 있는 단계에 이르렀음을 보여준다. OpenAI에서 Sora를 표현한 소개 문구가 재밌는데,
We’re teaching AI to understand and simulate the physical world in motion, with the goal of training models that help people solve problems that require real-world interaction.
라고 소개하고있다. 이 소개와 모델이 생성한 비디오를 보며 든 생각은, 기존의 AI가 텍스트나 사진이 단일 장면을 표현하는 데 그치는 반면, 비디오 생성 AI는 연속된 순간들을 통해 장면 간의 상호작용을 포착함으로써, 인간이 물리적 세계와 상호작용하는 방식을 모방할 수 있는 길을 열었지 않나? 라는 것이다.
구글 Gemini의 경우 최근 입력 받을 수 있는 토큰 개수를 1M까지 기하급수적으로 늘렸는데, 이를 통해 AI가 상호작용할 수 있는 길을 더 넓히지 않았을까?
이러한 발전을 통해 AI가 인간의 오감을 (직접적인 센서 없이도) 간접적으로 체험하며 학습하는 과정으로 나아갈 수 있지 않을까?
‘나’와 똑같은 ‘AI’가 등장하는 일이 머지 않은 것 같다는 생각이 든다. 만약 AI의 감각 체계가 완성되고 지속적인 학습 능력이 향상되어, 상호작용이 가능한 AI에게 ‘나’와 동일한 데이터가 주어진다면, 이 AI는 ‘나’와 유사한 행동을 하고 같은 판단을 내릴 수 있게 될 것이다. 이는 ‘나’와 ‘AI’를 구분하는 기존의 방법이 무의미해질 수 있음을 의미한다. 과거의 경험에 기반한 증명 방식은 더 이상 유효하지 않게 되며, 디지털화된 ‘나’와 현실의 ‘나’를 구분하는 방법이 (생체적 인증을 넘어서) 어떤 것이 있을까?