AI는 사고의 대행자가 아닌 촉진자가 되야 한다

AI는 사고를 대신해 주는 ‘조수’(assistant)가 아니라, 사고를 자극하는 ‘촉진자(provocateur)’이다.

AI는 사용자가 비판적 질문을 하거나 다른 관점을 생각하도록 유도하는 방식으로 설계되야 한다.

최종 책임은 항상 사용자에게 있으며, AI는 당신의 능력을 확장하는 수단임을 명심하라.

오늘 공유할 영상은 Advait Sarkar(마이크로 소프트 리서치)의 TED 강연으로 AI가 인간의 비판적 사고에 미치는 영향과 이를 방지하기 위한 새로운 접근 방식에 대해 발표한 내용입니다. 주요 내용을 제미나이와 요약해봤습니다.

외주화된 이성 (Outsourced Reason)

현재 많은 사람들이 이메일 요약, 보고서 작성, 데이터 분석 등에 AI를 비서처럼 사용하고 있습니다. 강연자는 이를 외주화된 이성이라고 부르며, 지식 노동자들이 아이디어에 직접 관여하지 않고 단순히 로봇의 의견을 검증하는 관리자로 전락하고 있다고 경고합니다

AI가 사고에 미치는 부정적 영향

창의성 감소: 집단적 차원에서 AI를 사용하는 지식 노동자들은 수동으로 작업할 때보다 더 좁은 범위의 아이디어를 생성하는 경향을 보입니다.
비판적 사고 저하: AI에 대한 신뢰가 높을수록 사람들은 비판적 사고에 쏟는 노력을 줄이게 됩니다.
기억력 감퇴: AI가 생성한 요약본을 읽거나 AI가 대신 쓴 글은 직접 작업했을 때보다 기억에 훨씬 덜 남게 됩니다.

생각을 위한 도구로서의 AI

Sarkar는 AI가 단순히 인간의 명령에 복종하는 비서가 아니라, 인간의 사고를 자극하고 도전하는 도구가 되어야 한다고 주장합니다. 강연에서는 마이크로소프트 리서치에서 개발 중인 프로토타입을 통해 다음과 같은 새로운 작업 방식을 제시합니다.(영상 보시면 재밌습니다!)

렌즈(Lenses): 문서의 내용을 특정 관점에 맞춰 요약하여 전략적인 읽기를 돕습니다.
도발(Provocations): AI가 작업 과정에서 비판적인 의견이나 대안적인 관점을 제시하여 사용자가 더 깊이 생각하도록 유도합니다.

결론

강연자는 사고 능력이 인간의 주체성과 행복에 필수적임을 강조하며, 우리에게 다음과 같은 질문을 던지며 마무리합니다. "당신을 대신해서 생각 해주는 도구를 원하십니까, 아니면 당신이 생각하도록 만드는 도구를 원하십니까?"

‘AI가 인간 비판적 사고를 대체하면 안 되며,’ 오히려 AI가 사람을 더 잘 생각하게 만드는 도구가 되도록 설계되어야 한다는 메시지를 강조했습니다.

강연자의 렌즈와 도발이라는 개념이 궁금해서 더 찾아봤습니다.

렌즈 (Lenses): 관점에 따른 전략적 요약

렌즈는 방대한 양의 정보를 사용자의 목적이나 역할에 맞춰 재구성하여 보여주는 인터페이스입니다. 기존의 AI 요약이 전체 내용을 단순히 줄이는 데 집중했다면, 렌즈는 정보를 특정 필터로 걸러내어 중요한 맥락을 포착하게 합니다.

<주요 특징 및 작동 방식>

맞춤형 필터링: 보고서를 읽을 때 재무 담당자 렌즈를 적용하면 비용과 수익 관련 데이터가 강조되고, 개발자 렌즈를 적용하면 기술적 구현 가능성과 스택 관련 정보가 중심이 됩니다.
다각도 분석: 동일한 문서를 여러 개의 렌즈로 번갈아 보며 입체적인 이해가 가능해집니다.
전략적 읽기: 사용자는 처음부터 끝까지 정독할 필요 없이, 현재 자신에게 가장 필요한 정보의 맥락을 즉시 파악할 수 있습니다.
*예시: 50페이지 분량의 도시 계획 문서를 볼 때, 환경 운동가 렌즈를 선택하면 녹지 비율과 탄소 배출 관련 내용이 즉시 하이라이트되어 나타납니다.

도발 (Provocations): 비판적 사고의 촉매제

도발은 AI가 사용자의 의견에 무조건 동조하는 것이 아니라, 의도적으로 반대 의견을 제시하거나 논리적 허점을 지적하는 기능입니다. 이는 사용자가 AI의 결과물을 수동적으로 받아들이는 자동화 편향(Automation Bias)에 빠지는 것을 방지합니다.

<주요 특징 및 작동 방식>

반론 제기: 사용자가 어떤 가설을 세우면 AI가 그 가설이 틀렸을 가능성이나 반대되는 데이터 사례를 제시합니다.
대안적 관점: 사용자가 보지 못한 사각지대를 질문의 형태로 던집니다. 예를 들어, 이 결정이 5년 뒤에 어떤 부작용을 낳을까요?와 같은 질문입니다.
인지적 마찰: 부드러운 작업 흐름을 의도적으로 방해하여 사용자가 한 번 더 멈춰서 생각하게 만듭니다.

<도발의 효과>

확증 편향 방지: 자신이 믿고 싶은 것만 보려는 경향을 깨뜨립니다.
논리적 견고함 강화: AI의 공격적인 질문에 답하는 과정에서 사용자의 논리가 더욱 탄탄해집니다.
창의적 문제 해결: 당연하게 여겼던 전제를 의심하게 함으로써 새로운 아이디어를 유도합니다.

한줄평: AI를 학교에서, 대학에서, 실무에서 이렇게 사용할 수 있다면 인류의 미래는 어떨지.. 호기심과 그 결과가 궁금해졌습니다.

그래서 실제 AI가 사고의 파트너가 된다면 어떨지 궁금해서 강연자의 지식을 gem 으로 만들어봤어요.
제미나이 쓰시는 분들은 아래 링크 클릭해서 생각나는 사업 아이디어를 툭 던져보세요.
까칠한 기획가와 대화하기