{"componentChunkName":"component---src-templates-blog-post-tsx","path":"/book/dual-brain/","result":{"data":{"markdownRemark":{"html":"\n
\n

Contents

\n\n
\n
\n

이 책은 주로 AI 사용에 있어서 단기적이고 실용적인 면을 주로 다룬다. 어찌되었든 우리는 AI와 함께하는 세상에 살고 있으며, 이는 AI와 함께 일하는 법을 이해해야 한다. 책에서는 AI와 협업을 위해 다음 네 가지 원칙을 제시해 준다.

\n

공동지능이 되기 위한 원칙

\n
    \n
  1. 작업할 때 항상 AI를 초대한다.
    2. \n
  2. 인간이 주요 과정에 계속 개입한다.
    3. \n
  3. AI를 사람처럼 대하고, 어떤 유형의 사람인지 AI에게 알려준다.
    4. \n
  4. 지금의 AI를 앞으로 사용하게 될 최악의 AI라고 생각한다.
    5. \n
\n

작업할 때 항상 AI를 초대한다.

\n

AI를 다각도에서 다양한 방식으로 활용해 봐야 미묘한 차이, 한계, 능력을 더 잘 이해할 수 있어 활용 능력을 높일 수 있다. AI를 활용해 사고와 접근 방식이 다양해지면 문제에 대한 혁신적인 해결책과 아이디어를 얻을 수도 있다. 하지만, 의존성 문제가 생길 수 있다. AI에게 무분별하게 의사 결정을 맡기면, 인간의 사고력, 판단력이 약해질 수 있다.

\n

인간이 주요 과정에 계속 개입한다.

\n

AI에게 무분별하게 의사 결정을 맡기게 되는 문제를 해결하는 핵심이 인간이 주요 의사 결정에 참여하는 것이다. AI의 효율성과 속도에 의존해 모든 것을 AI에 맡기고 싶어질 수 있다. 하지만, AI의 답을 그대로 믿을 수 없는 여러 이유가 있다.

\n\n

따라서, 인간이 주요 과정에서 계속 개입해 AI에 휘둘리지 않아야 한다. 이를 위해 인간은 고유한 관점, 비판적 사고 능력, 윤리적 문제에 대한 의견을 제시할 수 있어야 한다고 한다.

\n

그런데 인간이 주요 과정에 개입을 해야 한다면, 그 경계선을 어디에 그을지 기준을 정해야 한다. 그 기준은 사람마다 다를 수 있을 것 같다고 생각했다. 업무, 창작, 감정 등.

\n

AI를 사람처럼 대하고, 어떤 유형의 사람인지 AI에게 알려준다.

\n

실제 랄프톤 우승자 인터뷰를 봤을 때, 약간 AI를 사람처럼 대한다고 느꼈다. 책에서는 AI의 페르소나를 설정하면 더 나은 답변을 얻을 수 있다고 한다. 특정 관점에서 조금은 독특하고 흥미로운 답변을 얻고 싶을 때 활용하면 좋다고 생각한다.

\n

AI Alignment

\n

LLM은 어떤 면에서 지각이 있다고 느껴지기도 한다. 다음 단어를 예측하는 토큰 예측 시스템이 이런 비범한 능력을 보여주는지 아무도 완벽히 알지 못 한다는 점이 무섭기도 하고 흥미롭기도 하다.

\n

이 책은 단기적이고 실용적인 면을 주로 다루지만, 어떻게 해야 AI가 인간에게 우호적일 수 있을까에 대해서도 일부 다룬다.

\n

AI 정렬(AI alignment)이라는 용어를 사용하는데, AI 시스템을 인간이 의도한 목표, 선호도, 윤리적 원칙에 맞게 조정하는 것을 뜻한다.

\n

AI 분야는 엄청난 논쟁, 우려에 직면하고 있고, 작가도 AI의 인류에 대한 위협은 분명히 존재한다고 본다. 작은 기업에서 개발하는 AI 시스템도 많아지고 있어, 규제만으로는 모든 위협을 줄이기 어렵다고 본다. 기업, 정부, 연구원, 시민 사회가 협력하는 광범위한 사회적 대응이 필요하고, 그 과정은 조속히 이루어져야 한다고 한다.

\n

Quotation

\n
\n규제만으로는 AI와 관련된 모든 위험을 줄이기에 충분하지 않을 것이다. 기업, 정부, 연구원, 시민 사회가 협력하는 광법위한 사회적 대응 필요함.\n
\n
\n우리 삶을 근복적으로 바꾸어 놓을 기술과 우리가 만들고자 하는 미래에 대해 사회가 함께 고민해야 할 문제다. 그리고 그 과정은 조속히 이루어져야 한다.\n
\n
\n범용 기술은 증기 기관이나 인터넷처럼 한 세대에 한 번 개발될 법한 큰 발전으로, 산업과 삶의 모든 측면에 영향을 미치는 기술을 말한다. AI는 전문가들이 범용 기술이라고 부르는 범주에 해당한다. 하지만, 과거의 범용 기술보다 AI는 그 영향력이 더 클 것으로 본다.\n
\n
\n초지능을 만드는 방법조차 모르는데, 정렬 하는 법을 알아낸다는 것은 엄청나게 도전적인 과제일 것이다. AI 정렬을 연구하는 학자들은 논리, 수학, 철학, 컴퓨터 과학, 즉흥적인 아이디어를 모두 동원해 이 문제를 해결할 방법을 궁리 중이다.\n
\n

최근 몇 년 사이 AI로 인한 급진적인 변화가 있었다고 생각하는데, 앞으로도 지속적으로 큰 변화가 예상 돼 일련의 걱정과 기대감이 공존하고 있다고 느껴집니다. 현 시점 기술 발전 속도를 늦추거나 멈추기는 어렵다고 생각합니다.

\n

그래서, 앞으로의 다가올 미래를 피할 수 없다면 여러 우려되는 부분들이 있지만 가능하다면 긍정적인 시각으로 바라보려 합니다.

\n

AI 정렬 문제

\n

AI가 동료, 교사, 전문가, 친구로서 우리 삶을 어떻게 변화시킬지.

\n

ex) 클립을 최대화하는 AI\n닉 보스트롬

","frontmatter":{"title":"듀얼 브레인","date":"April 29th 2026"}}},"pageContext":{"slug":"/dual-brain/"}},"staticQueryHashes":["3649515864"]}