AI가 ‘보이지 않는 권력’이 되는 시대(4/4)

AI가 ‘보이지 않는 권력’이 되는 시대(4/4)

== 푸코가 제시한 ‘지식·감시·규율의 구조’ ==

 

 

AI에 지지 않기 위한 인간의 사고 ― 푸코가 가르쳐주는 것

 

 

(1) ‘보이지 않는 구조’를 이해하는 힘

 

푸코는 “겉으로 보이는 것은 진실의 일부에 불과하다”고 말했다.
AI 시대에는 기술 뒤편의 구조를 이해하려는 태도가 필요하다.

 

(2) 내 행동이 ‘어떻게 방향 지어지고 있는지’를 자각하기

 

AI는 선택지를 ‘조작’할 수 있다.
선택 그 자체가 권력에 의해 형성된다는 점을 인식하는 것이 중요하다.

 

(3) ‘스스로 생각하기’가 가장 강력한 저항

 

푸코는 권력에 대한 저항으로 한 개인이 자신의 머리로 생각하는 것을 가장 중시했다.

AI가 제시한 답을 그대로 따르지 않고,
왜 그런 답이 나왔는지,
다른 선택지는 없는지,
나는 어떻게 생각하는지를 끊임없이 묻는 힘이 필요하다.

 

 

푸코는 ‘AI 사회의 구조’를 읽기 위한 철학이다

 

푸코는 권력이 폭력이 아니라 정보·관찰·규율·알고리즘으로 작동하는 미래 사회의 구조를 반세기 이상 전에 분석했다.

현대의 AI 사회에서는
무엇이 보이고 있는지,
무엇이 기록되고 있는지,
무엇이 조작되고 있는지,
어떤 규칙으로 판단되고 있는지가 점점 보이지 않게 된다.

 

‘보고 있을지도 모른다’,
‘평가받고 있을지도 모른다’는 감각이 확산되면, 사람들은 처벌이 없어도 선제적으로 자기 검열을 하고, 표현과 행동의 폭을 스스로 좁히게 된다.

푸코적으로 말하면, 권력은 외부에서 강제하는 것뿐 아니라 내면화됨으로써 지속된다.

 

그래서야말로
스스로 생각하고, 질문을 멈추지 않는 힘이 AI 시대의 가장 중요한 사고 능력이 된다.

푸코는 그 사고의 토대를 조용히 제공해 주는 철학자다.

 

* 글=사토 히토시(佐藤仁)

* 일본어원문=AIが“見えない権力”になる時代――

フーコーが示す「知識・監視・規律の構造」

* 출처=https://news.yahoo.co.jp› expert › articles