AI 시대, ‘혁신 잘하는 대한민국’으로
2026 한경협 경영자 제주하계포럼

올해로 39회를 맞은 한경협 경영자 제주하계포럼은 기업인들이 급변하는 경영 환경을 읽고 새로운 성장의 방향을 모색하는 지식 교류의 장이다. 7월 15일부터 18일까지 제주에서 열린 올해 포럼에는 약 400명의 기업인이 참석해 ‘대한민국, AI 강국으로의 대도약(THE AI-DRIVEN KOREA)’을 화두로 AI가 바꿔놓을 산업과 기업 경영의 미래를 함께 살폈다. AI가 특정 기술이나 도구를 넘어 일하는 방식과 조직, 산업 구조 전반을 변화시키고 있는 만큼, 이번 포럼은 기술 자체보다 기업이 이러한 변화에 어떻게 대응하고 새로운 경쟁력을 만들어갈 것인지에 초점을 맞췄다.
오케스트라의 환영 공연과 라이브 콘서트 등 문화 프로그램도 마련돼 바쁜 일상에서 벗어나 휴식과 재충전의 시간을 더했다. 지식과 문화, 교류가 어우러진 이번 포럼은 AI라는 거대한 변화 앞에서 기업인들이 새로운 시각을 나누고 다음 도약을 준비하는 자리로 채워졌다.

에이전틱 AI, 업무 자동화의 범위를 넓히다

AI는 이제 일부 프로젝트에서 시험적으로 활용하는 단계를 넘어 실제 업무에 적용되는 기본 인프라로 확장되고 있다. 이러한 변화의 중심에 ‘에이전틱 AI’가 있다. 법무 챗봇부터 행정 문서 작성, 인사 업무 보고 취합과 요약까지 AI가 직접 업무 과정에 들어오는 사례가 늘고 있다. 특히 비개발 직군도 바이브코딩을 통해 필요한 도구를 직접 만들어 활용할 수 있게 됐다. 개발팀에 의존하지 않고 총무·재무·마케팅 등 현업에서 자신의 업무에 맞는 AI 도구를 만드는 방식은 앞으로 더욱 활성화될 것으로 생각한다.
다만 AI를 도입했다고 곧바로 완전한 자동화가 이뤄지는 것은 아니다. AI 활용은 모니터링, 예측·진단, 의사결정 지원, 조건부 자동 실행, 완전 자율화로 이어지는 단계적인 과정으로 봐야 한다. 제조 현장은 물론 행정 업무에서도 현재 어느 수준까지 AI를 활용하고 있는지 파악하고, 앞으로 어느 단계까지 발전시킬지 구체적으로 설계해야 한다. 개인의 생산성이 높아졌다고 조직 전체의 생산성이 자동으로 높아지는 것도 아니다. AI 활용 방식에 맞춰 성과 관리와 목표, 조직문화까지 함께 변화해야 실질적인 조직 성과로 이어질 수 있다.

피지컬 AI 시대, 제조 경쟁력이 새로운 기회로

AI의 적용 범위는 디지털 업무를 넘어 실제 산업 현장으로 빠르게 확장되고 있다. 이러한 흐름에서 ‘피지컬 AI’가 중요하다. 자율주행자동차와 산업설비처럼 물리적인 환경에서 사람의 역할을 대신하거나 지원하는 영역이다. 제조 현장에서도 AI는 생산계획과 공정제어, 품질관리, 설비보전, 에너지 관리, 물류·출하 등 다양한 과정에 적용할 수 있다. 특히 작업자의 경험과 암묵지에 의존하던 공정 운영을 AI가 학습해 설비를 자동 제어하고 가동률과 생산성을 높이는 방향으로 발전할 수 있다.
한국은 제조업과 디지털 기반, 반도체와 제조AI 등 피지컬 AI 시대에 활용할 수 있는 경쟁력을 갖추고 있다고 생각한다. 앞으로 중요한 것은 AI 서비스를 단순히 외부에서 가져다 쓰는 데 그치지 않고 국내 데이터센터와 서비스, 제조 현장에 필요한 AI 기술을 함께 키워가는 일이다. 에이전틱 AI에서 피지컬 AI까지 AI의 활용 범위가 넓어지는 만큼 기업도 자신의 업무와 산업 현장에서 필요한 AI의 수준을 판단하고 단계적으로 고도화해 나가야 한다.

준비하지 못한 패배에서 찾은 AI 시대의 교훈

2016년 알파고와의 대국은 내가 AI 시대를 처음 체감한 결정적 순간이었다. 인공지능이 언젠가는 인간의 바둑을 넘어설 것이라고 생각했지만, 그 시점이 그렇게 빨리 찾아올 것이라고는 예상하지 못했다. 충분히 준비하지 못한 채 맞이한 1~3국의 패배는 그래서 더욱 뼈아팠다. 상대의 기운과 호흡을 느낄 수 없는 낯선 대국 환경, 인간의 감각으로 AI의 데이터를 상대하려 했던 전략 등은 미리 대비했다면 달라질 수도 있었던 부분이었다. 반면 4국에서는 중반전에 승부를 거는 전략을 철저하게 준비했고, 이전에는 한 번도 내려보지 않았던 결정을 통해 승리를 거뒀다. 한 번도 경험하지 못한 변화 앞에서는 과거의 방식만 고수하기보다 새로운 상황을 이해하고 전에 없던 결정을 내릴 준비가 필요하다고 생각한다.
바둑계는 다른 분야보다 일찍 AI 시대를 경험했다. AI 프로그램이 보편화되면서 프로기사들은 자신의 경험뿐 아니라 AI의 분석을 보며 공부하기 시작했고, 처음에는 이해하지 못했던 AI의 수를 점차 학습하고 받아들였다. 그러나 AI가 모두에게 똑같이 주어졌다고 해서 실력 차이가 줄어든 것은 아니었다. 상위 기사들이 AI를 더 잘 활용하고 이해하면서 오히려 격차는 더욱 벌어졌다. 이제 AI를 쓰느냐 마느냐보다 얼마나 이해하고 자신의 영역에 적용할 수 있느냐가 새로운 경쟁력을 좌우한다고 본다.

신념과 철학은 지키고, 고정관념은 낮춰라

그렇다면 AI가 인간보다 훨씬 뛰어난 판단을 내리는 시대에 인간에게 남는 역할은 무엇일까. 나는 ‘서사를 통한 신념과 철학’이라고 생각한다. 인간이 남긴 기보가 기술적인 측면에서는 AI의 수보다 부족할 수 있지만, 한 판의 바둑에는 한 기사가 살아온 경험과 상대와의 관계, 자신의 신념과 철학이 함께 녹아 있다. 미술이나 음악에서도 AI가 정교한 결과물을 만들어낼 수 있지만 그 안에 어떤 서사와 의미를 부여할 것인지는 결국 인간의 몫이다. AI 활용 자체가 자연스러워질수록 오히려 이러한 인간 고유의 영역이 더욱 중요해질 것이라고 본다.
반면 지켜야 할 신념과 달리 고정관념은 과감히 내려놓아야 한다. 과거 프로기사들이 배운 적이 없다는 이유로 두지 않았던 수를 AI가 거리낌 없이 선택한 사례는 인간이 얼마나 익숙한 틀에 갇힐 수 있는지를 보여준다. AI는 이러한 고정관념 밖의 가능성을 제시하는 도구가 될 수 있고, 중요한 것은 그 메시지를 발견해 자신의 판단으로 연결하는 능력이다. 여기에 다양한 지식을 조합하고 융합하는 노력과 경쟁 관계에서도 소통하고 협력하는 자세가 필요하다. 바둑에서 승패가 결정된 뒤에도 ‘복기’를 거쳐야 한 판이 완성되듯, 성공과 실패를 되돌아보고 서로의 생각을 나눠야 다음 단계로 나아갈 수 있다.

한계를 정하지 않고, 세계 최고를 목표로

AI 반도체는 AI 알고리즘에 필요한 연산을 빠르고 효율적으로 수행하는 장치다. 결국 반도체 기업의 경쟁력은 설계에서 나온다고 생각한다. 2014~2015년부터 심층 인공신경망 기반 AI가 기존과 다른 가능성을 보여주기 시작했고, AI가 다른 기술들의 중심이 될 수 있다고 판단했다. 2016년 삼성전자를 떠나 동료들과 AI 반도체 개발에 뛰어든 것도 그 때문이다. 당시 국내 기업은 설계 분야의 경쟁력이 약하다는 시선도 있었지만 나는 한국에도 충분한 잠재력이 있다고 생각했다. 기존의 한계를 전제로 하기보다 새로운 가능성을 보고 글로벌 경쟁력을 기준으로 목표를 세우는 것이 중요했다.
퓨리오사 AI는 처음부터 ‘세계 최고의 칩’을 목표로 삼았다. 높은 목표를 세웠기 때문에 글로벌 기업에서 경험을 쌓은 좋은 인재들을 모을 수 있었다고 생각한다. 특히 AI 반도체는 하드웨어만으로 완성되는 제품이 아니라 컴파일러를 비롯한 소프트웨어와 알고리즘까지 함께 설계해야 하므로 다양한 분야의 전문성이 필요하다. 나는 스타트업을 기존의 관성에서 벗어나 새로운 조직 방식을 실험하는 곳이라고 생각한다. 설계 인력이 본업에 집중하고 새로운 문제를 해결할 수 있는 조직문화와 사람의 역량이 결국 기술 경쟁력을 결정한다.

AI 추론 시대의 핵심은 에너지 효율

AI 사용이 빠르게 늘면서 데이터센터의 역할도 달라지고 있다. 과거에는 AI 모델을 학습시키는 ‘훈련’이 중심이었다면 앞으로는 실제 서비스를 구동하는 ‘추론’ 영역의 비중이 크게 확대될 것으로 본다. AI를 사용하는 시간과 토큰 사용량이 급증하면서 추론용 반도체 수요도 함께 늘고 있다. 우리는 처음부터 가장 강력한 AI 모델이 구동되는 데이터센터를 목표로 칩을 개발해 왔고, 앞으로 이 시장이 반도체 산업에서 매우 중요한 영역으로 성장할 것으로 보고 있다.
이 과정에서 가장 중요한 경쟁력은 에너지 효율이다. AI 데이터센터를 구축할 때 가장 큰 제약 가운데 하나가 전력 공급인 만큼, 같은 연산을 얼마나 적은 에너지로 처리할 수 있느냐가 AI 반도체의 핵심 기술력이라고 생각한다. 우리 역시 데이터 이동을 최소화하면서 연산량을 극대화하는 설계에 집중해 왔다. 하지만 새로운 AI 반도체가 시장에 자리 잡으려면 칩 자체의 성능만으로는 충분하지 않다. 이를 활용할 수 있는 소프트웨어와 인프라까지 함께 성장해야 한다. 결국 기업과 인재들이 힘을 모아 새로운 AI 생태계를 만들어가는 것이 앞으로의 중요한 과제다.

AI가 일할 수 있는 ‘철도’를 먼저 깔아야 한다

뤼튼에게 AI 전환은 선택이 아니라 생존의 문제였다. 챗GPT, 제미나이, 클로드 같은 글로벌 기업과 경쟁하려면 더 적은 인원과 자본으로 높은 생산성을 만들어야 했기 때문이다. 내부에서 AI 전환을 추진하며 중요한 사실을 깨달았다. 단순하고 반복적인 업무 80%를 AI로 없앤다고 해서 사람이 중요한 20%의 일에 다섯 배 더 집중할 수 있는 것은 아니다. 사람에게는 집중력의 한계가 있기 때문이다. 그래서 우리는 반복 업무만 줄이는 데서 벗어나, 실제 의사결정과 매출·비용에 영향을 주는 핵심 업무 자체를 AI로 전환하는 방향을 택했다.
그 과정에서 경영진의 업무부터 AI로 전환하는 실험을 시작했다. 하나의 AI에 여러 업무를 맡기자 맥락이 뒤섞이고 품질이 떨어졌고, 사람이 AI가 도출한 모든 결과를 다시 확인하는 데에도 한계가 있었다. 그래서 개발·제품·커뮤니케이션 등 역할별로 AI를 나누고, 각 에이전트가 서로 의견을 제시하면 사람이 최종 판단하는 멀티 에이전트 구조를 만들었다. 앞으로 AI가 컴퓨터를 직접 사용하며 대부분의 사무업무를 수행할 수 있게 되면 이런 구조가 더욱 일반화될 것으로 본다. 중요한 것은, 똑똑한 신입사원도 충분한 트레이닝과 온보딩 시스템이 있어야 제 역량을 발휘할 수 있듯, AI 역시 조직에서 제대로 일할 수 있도록 필요한 맥락과 업무 체계를 미리 갖춰놓는 것이다.

AI가 읽고 판단할 수 있는 데이터가 경쟁력이다

이를 위해 가장 먼저 한 일은 AI가 활용할 수 있는 데이터 기반을 만드는 것이었다. 기업에는 PDF와 한글파일, 이미지가 들어간 엑셀, 서로 다른 코드와 기준을 사용하는 데이터처럼 사람이 보기에는 익숙하지만 AI가 바로 이해하기 어려운 정보가 많다. 우리는 문서를 파싱(Parsing)해 데이터를 추출하고, 각 데이터의 의미를 정의한 뒤 서로의 관계와 규칙을 연결하는 온톨로지(Ontology)를 구축했다. 결국 AI 전환에서 필요한 것은 단순히 데이터를 많이 모으는 것이 아니라, AI가 그 데이터의 의미와 맥락을 이해하고 실제 업무에 활용할 수 있도록 만드는 것이다.
기술만 갖춘다고 AI 전환이 끝나는 것도 아니다. 구성원이 AI를 자신의 일을 빼앗는 존재나 새로운 추가 업무로 받아들이면 활용은 확산되기 어렵다. 그래서 우리는 AI 활용량을 공유하고, 비개발자도 직접 효용을 경험할 수 있도록 해커톤 등을 운영했다. 무엇보다 AI 전환의 목표는 ‘AI를 도입했다’는 사실 자체가 아니라 명확한 성과여야 한다. 비용을 실제로 줄이거나 매출을 늘리는 영역에서 AI가 어떤 효과를 만드는지 따져야 한다. 앞으로 멀티 에이전트가 조직의 여러 업무를 수행하는 시대가 온다면, 지금 기업이 해야 할 일은 그들이 제대로 일할 수 있는 데이터와 시스템, 조직문화를 먼저 준비하는 것이다.

합리적인 선택은 어떻게 만들어지는가

AI 시대에는 ‘선택’의 문제가 더욱 중요해진다. 인간은 스스로 합리적이라고 생각하지만 우리의 뇌는 완벽하게 합리적인 판단을 하도록 만들어져 있지 않다. 그렇다고 감정을 배제하면 더 좋은 결정을 내릴 수 있는 것도 아니다. 감정과 관련된 뇌 영역을 잃은 환자가 지적 능력에는 문제가 없으면서도 사소한 결정을 내리지 못했던 사례는 감정이 판단의 방해물이 아니라 판단을 가능하게 하는 중요한 조건임을 보여준다. 기업의 의사결정도 마찬가지다. 중요한 것은 감정을 없애는 것이 아니라, 더 나은 판단을 할 수 있는 구조를 만드는 것이다.
회의 역시 오래 고민한다고 반드시 좋은 결과가 나오는 것은 아니다. 실패 가능성을 미리 가정하고 반대 의견을 검토하며, 누가 최종적으로 책임지고 결정할 것인지 명확히 해야 한다. 현장의 실무자에게는 필요한 결정권을 주되 코칭과 간섭을 구분하는 것도 중요하다. 구성원들이 서로 다른 정보를 충분히 공유하고 공통의 정체성을 형성하는 과정 역시 좋은 판단에 영향을 미친다. AI가 만들어낸 정보도 마찬가지다. 그럴듯하지만 쓸 수 없는 ‘워크슬롭(Workslop)’1 이 늘어날수록 인간에게 필요한 것은 더 많은 정보를 생산하는 능력이 아니라 제대로 검증하고 판단할 수 있는 시간과 구조다.

• 1.워크슬롭(Workslop): AI가 생성한 부정확하거나 맥락이 부족한 결과물로 인해 오히려 추가적인 검토와 수정 작업이 발생하는 현상

AI가 답을 찾는 시대, 인간은 본질을 찾아야 한다

AI가 등장했다고 인간의 판단 가치가 줄어드는 것은 아니다. 오히려 바둑에서는 AI가 인간이 생각하지 못했던 수를 제시한 이후 프로기사들의 판단 수준이 함께 높아졌다. 수학에서도 고등수학을 전문적으로 배우지 않은 사람이 AI가 제안한 수많은 답 가운데 가능성 있는 아이디어를 골라내면서 오랫동안 풀리지 않았던 문제에 새로운 해법을 제시하는 사례가 나타났다. 결국 중요한 것은 AI가 내놓는 답을 그대로 받아들이는 것이 아니라, 그것이 의미 있는지 검증하고 새로운 판단으로 연결하는 인간의 능력이다.
그래서 나는 AI가 무엇을 할 수 있고 무엇을 못하는지를 나누는 것보다, AI 시대에도 변하지 않는 본질이 무엇인지 묻는 것이 더 중요하다고 생각한다. 바둑에서는 AI가 등장해도 한 수를 두기 위해 고민하는 인간의 고뇌와 경쟁의 본질이 남았고, 기업 역시 자신이 가장 잘 아는 영역의 본질을 이해할 때 AI를 제대로 결합할 수 있다. 이제 AI가 문제를 푸는 시간은 점점 짧아질 것이다. 그렇다면 인간이 해야 할 일은 답을 찾는 데 더 많은 시간을 쓰는 것이 아니라 어떤 문제를 풀 것인지, 왜 그 문제를 풀어야 하는지를 정하는 것이다. AI 시대의 경쟁력은 결국 기업의 본질을 분명히 하고 그 위에서 새로운 미래를 선택하는 데서 나온다.

AI는 선택이 아니라 생존의 조건이다

나는 AI를 쓰면 더 나아질 것이라는 말보다, 이제 AI를 쓰지 않으면 경쟁에서 사라질 수 있다는 점을 강조하고 싶다. 기술의 무서운 점은 범용성에 있다. 키오스크가 일상에 들어온 뒤 하나의 선택이 아니라 업계 전체가 따라야 하는 조건이 된 것처럼, 누구나 쉽게 사용할 수 있는 AI 역시 결국 모든 산업으로 확산될 수밖에 없다. AI와 로봇이 반복적인 업무와 관리·감독을 대신하기 시작하면 지금까지 사람과 조직이 맡아온 역할도 달라진다. 과거에는 근면하게 일하는 것이 중요했고, 이후에는 일을 더 스마트하게 하는 것이 경쟁력이었다면 앞으로는 사람이 직접 하지 않아도 되는 일을 과감히 내려놓는 방향으로 갈 것이다.
이 변화 속에서는 의사결정 방식도 달라져야 한다. 기술의 비용이 낮아지면서 과거처럼 오랜 기간 기획하고 검토한 뒤 실행하는 방식보다 먼저 시도하고, 안 되면 빠르게 버리고 다시 시작하는 방식이 유리해지고 있다. AI가 일하려면 기업이 가진 지식과 맥락을 전달하는 것도 중요하다. 앞으로는 각자가 축적한 경험과 지혜를 구조화해 AI가 활용할 수 있도록 만드는 ‘온톨로지(Ontology)’가 중요해질 것이다. 결국 새로운 기술을 오래 바라보기만 해서는 배울 수 없다. 직접 사용하고 실험하면서 조직이 가진 지식과 업무 방식을 AI에 맞게 업데이트해야 한다.