피지컬AI 시대, 현명하게 결정하는 법
피지컬AI 시대, 현명하게 결정하는 법
로봇 청소기가 집 안을 돌고, 자율주행차가 도로를 달리고, 공장과 물류창고에서는 로봇이 사람 대신 물건을 옮긴다. 인공지능이 몸을 얻어 현실을 직접 움직이는 피지컬AI(Physical AI)의 시대다. 기계가 판단을 도와주는 만큼 삶은 편해졌다. 하지만 편리함에는 함정이 있다. 기계가 알아서 해 줄 것이라 믿는 순간, 우리는 판단을 내려놓는다. 그렇다면 똑똑한 기계 옆에서 사람은 어떻게 올바른 판단과 결정을 내릴 수 있을까.
기계의 ‘확신’을 한 번 더 의심하라
사람은 기계가 내놓은 답을 쉽게 믿는다. 심리학에서는 이를 ‘자동화 편향(automation bias)’이라고 부른다. 인간공학 분야의 대표 학자 라자 파라수라만과 디트리히 만지는 2010년 학술지 『Human Factors』에 발표한 연구에서, 자동화된 시스템을 믿고 점검을 소홀히 하는 ‘안주’와 기계의 제안을 그대로 따르는 ‘편향’이 초보자뿐 아니라 숙련된 전문가에게도 나타나며, 단순히 경험을 쌓는 것만으로는 쉽게 사라지지 않는다고 정리했다. 전문가라고 안전한 것이 아니다. 그래서 필요한 것은 의식적인 습관이다. 기계의 답을 받으면 “정말 그럴까?”, “이 답이 틀렸다면 어떤 신호가 보일까?”를 스스로 묻는 짧은 멈춤이 판단의 질을 바꾼다.
손은 놓아도 눈은 떼지 마라
2023년 12월, 미국 도로교통안전국(NHTSA)의 조사 끝에 테슬라는 미국에서 약 200만 대의 차량을 리콜했다. 운전 보조 기능인 오토파일럿을 쓰는 동안 운전자가 계속 주의를 기울이도록 하는 장치가 충분하지 않아 오용될 수 있다는 판단 때문이었다. 이름이 ‘자동’이라고 해서 책임까지 자동으로 넘어가지는 않는다. 피지컬AI를 쓸 때 우리는 운전대에서 잠시 손을 뗄 수는 있어도 상황에서 눈을 떼서는 안 된다. 기계가 맡은 일이 무엇이고 맡지 않은 일이 무엇인지, 언제 내가 다시 개입해야 하는지를 미리 알고 있는 것. 그것이 기계를 믿는 올바른 방식이다.
판단을 체크리스트로 구조화하라
좋은 판단은 머릿속 직감만으로 나오지 않는다. 세계보건기구(WHO)는 수술 전후에 확인할 항목을 정리한 ‘수술 안전 체크리스트’를 만들었고, 2009년 『뉴잉글랜드 의학저널(NEJM)』에 실린 연구에 따르면 세계 8개 도시 병원에서 이를 도입한 뒤 수술 사망률은 1.5%에서 0.8%로, 주요 합병증은 11%에서 7%로 줄었다. 단순한 확인 목록이 숙련된 의사들의 실수를 막은 것이다. AI와 함께 일할 때도 마찬가지다. ‘결과의 근거를 확인했는가’, ‘예외 상황은 없는가’, ‘틀렸을 때 피해는 얼마나 큰가’, ‘최종 확인자는 누구인가’ 같은 질문을 목록으로 만들어 두면, 바쁘고 급한 순간에도 판단이 흔들리지 않는다.
판단의 근육은 직접 써야 자란다
자동화에 오래 기대면 사람의 실력은 조금씩 녹슨다. 미국 연방항공청(FAA)은 2013년 항공사들에 보낸 안전 공지(SAFO 13002)에서, 자동비행에 지나치게 의존하면 조종사의 수동 비행 능력이 떨어질 수 있다며 적절한 상황에서는 직접 조종하는 기회를 늘리라고 권고했다. 매일 자동조종으로 하늘을 나는 조종사도 정작 기계가 멈춘 순간에는 자신의 손으로 비행기를 다뤄야 하기 때문이다. 우리 일상도 같다. 내비게이션 없이 길을 찾아보고, AI의 요약 대신 원문을 직접 읽어 보고, 로봇에게 맡기던 작업을 가끔은 손으로 해 보는 것. 판단력은 근육처럼 쓰지 않으면 약해지고, 직접 써 본 사람만이 기계의 실수를 알아챌 수 있다.
결과보다 ‘이유’를 묻고, 마지막은 가치로 정하라
AI가 왜 그런 결론을 냈는지 설명할 수 없다면, 그 결론에 중요한 결정을 맡겨서는 안 된다. 2026년 1월 시행된 우리나라 인공지능기본법도 제34조에서 사람의 생명과 안전, 권리에 큰 영향을 주는 ‘고영향 인공지능’ 사업자에게 결과를 설명할 방안을 마련하고 사람이 관리·감독하도록 의무를 부과했다. 사용자인 우리도 같은 질문을 던질 권리가 있다. “이 결과의 근거는 무엇인가?” 그리고 설명을 들은 뒤에도 남는 선택, 예컨대 효율과 안전 중 무엇을 먼저 지킬지, 누구의 이익을 우선할지는 계산이 아니라 가치의 문제다. 그 결정만큼은 결과를 함께 살아갈 사람이 내려야 한다.
피지컬AI는 앞으로 더 빠르고 정확해질 것이다. 그러나 기술이 발전할수록 판단의 무게는 오히려 사람에게 더 실린다. 기계의 확신을 의심하고, 상황에서 눈을 떼지 않고, 체크리스트로 판단을 정리하고, 실패를 미리 상상하고, 스스로 판단하는 힘을 단련하고, 마지막에는 이유와 가치를 묻는 것. 거창한 기술이 아니라 작은 습관이다. 똑똑한 기계를 가장 잘 쓰는 사람은 기계를 가장 많이 믿는 사람이 아니라, 언제 믿고 언제 멈춰야 하는지 아는 사람이다.