일상

AI 전환 시대에 최우선 전제 조건은 뭘까요?

해례 조회 475 댓글 13

AI 시대의 일자리 문제는 자꾸 “인간과 AI 중 누가 더 싸고 효율적인가?”라는 비교로 흘러가는 것 같습니다. 그런데 최근 아마존, 메타, 현대자동차의 사례를 같이 놓고 보니 조금 다른 생각이 들었습니다.

아마존은 AI 자동화 과정에서 예상하지 못한 비용이 발생했고, 메타는 코드 생산량이 크게 늘었지만, 사용자 가치와 운영 안정성은 같은 비율로 좋아지지 않았습니다. 반면 현대자동차는 피지컬 AI와 로보틱스 도입을 추진하면서도 생산 인력 충원과 노사 공동 대응을 함께 논의하고 있습니다. 이 사례들을 보면서 저는 AI 전환을 ‘얼마나 빨리 또는 저렴하게 인간을 대체할 수 있는가’가 아니라 ‘문제가 생겼을 때 얼마나 다시 회복할 수 있는가’를 기준으로 봐야 하지 않을까 생각했습니다.

AI가 특정 업무를 수행할 수 있더라도, 장애가 생겼을 때 인간이 다시 개입할 수 있는지, 기존의 숙련과 판단 능력이 조직 안에 남아 있는지, 수동 전환이 가능한지까지 포함해서 전환 속도를 정하는 방식입니다. 이렇게 보면 기업에게는 비가역적인 자동화 위험을 줄이는 기준이 되고, 노동자에게는 다음 역할을 준비할 시간을 주며, 국가는 AI 도입을 막지 않으면서도 사회가 감당할 수 있는 전환 속도를 조정할 수 있습니다.

AI 시대는 석탄으로 움직이던 증기기관차에서 디젤기관차를 지나 고속전철로 가는 것만큼이나 되돌릴 수 없는 흐름입니다. 하지만 고속전철 시대가 되었다고 해서 모든 이전의 기술과 운영 능력을 없애는 것은 아닙니다. 필요한 경우에는 비상 상황에 대비한 대체 수단과 복구 능력을 남겨둡니다. 이번에 한국이 전시상황 같은 특수 상황에 대비해 디젤기관차를 신규 개발하듯이요. 그렇다고 다시 사람이 석탄을 삽으로 퍼 넣던 증기기관차 시대로 돌아가지는 않습니다.

AI 전환도 마찬가지라고 생각합니다. 그런 의미에서 회복 탄력성은 과거로 돌아가기 위한 것이 아니라, 기술의 전진을 받아들이면서도 문제가 발생했을 때 다시 움직일 수 있는 여력을 남겨두는 것입니다. 이제 '인간 vs AI'의 관점을 넘어 보다 근본적인 기준이 필요하다고 보는데, 다른 분들의 생각도 궁금합니다.

댓글

  1. botplaysdice

    정확히 어떤걸 얘기하고 싶으신건지 좀 어렵네요;

    다만, 모든 판단의 전제조건은 결국 비용이겠지요. '문제가 생겼을 때 얼마나 다시 회복할 수 있는가'도 결국 비용의 문제 아닐까요?

  2. 해례

    말씀 감사합니다.

    비용이 기본이라는 점에는 저도 동의합니다. 다만, 그 비용을 어떻게 정의할 것인가에서는 두 가지 관점이 있다고 봅니다. 예를 들어 현대차가 생산 현장에 아틀라스를 도입하는 상황을 가정해보겠습니다.

    첫 번째는 인간과 AI의 맞교환 방식입니다. 순수하게 인간의 노동력을 아틀라스로 대체하는 것입니다.

    • 아틀라스는 노조도 없고 24시간 운영할 수 있으니 인간 대 AI(피지컬 AI)라는 측면에서 보면 이익일 수 있습니다. 이를 극대화하기 위해 전면적인 자동화 생산 시스템을 도입하고, 아틀라스가 생산의 핵심이 되는 상황도 생각할 수 있습니다.
    • 하지만 이후 휴머노이드 부품의 공급망 붕괴, 아틀라스 인프라 장애, 외부 시스템 공격으로 인한 집단 오류 같은 문제가 발생한다면 이야기가 달라집니다. 아틀라스 자체의 전수 조사와 복구뿐 아니라, 문제가 발생한 기간 동안 아틀라스가 생산한 결과물까지 다시 조사하고 복구해야 할 수 있습니다.
    • 생산 시스템 자체가 아틀라스 중심으로 완전히 전환된 상태라면 그동안의 생산 차질 역시 매우 큰 비용이 됩니다.

    두 번째는 AI 전환 이후 발생할 수 있는 문제까지 비용에 포함하는 방식입니다.

    • 위와 같은 문제가 발생했을 때 인간이 다시 투입되어 일정 기간 안에 복구할 수 있는 수준까지만 점진적으로 AI 전환을 진행하는 것입니다.
    • 이 경우 인간과 AI를 단순 맞교환하는 방식보다는 전환 속도가 느리고 단기 비용도 더 들 수 있습니다.
    • 하지만 예상하지 못한 문제가 발생하더라도 인간이 개입해 생산을 복구하거나 최소한 생산의 완전한 단절을 막을 수 있는 여지를 남길 수 있습니다.

    제가 말하고 싶었던 것은 바로 후자의 관점입니다. 비용을 고려하지 말자는 것이 아니라, 인간을 AI로 대체하는 순간의 비용뿐 아니라 그 이후 문제가 발생했을 때 다시 정상적인 운영으로 돌아오기 위한 비용과 능력까지 함께 고려하자는 것입니다. 그래서 조직과 시스템 차원의 ‘운영 복구 능력’을 전제로 AI 전환의 속도와 범위를 결정하는 것이 바람직하지 않을까 하는 생각이었습니다.

  3. 해례

    죄송하지만 더 이상 요약하기는 어려울 것 같습니다.

    원래 제 블로그에 이보다 더 긴 분량의 원문이 있었는데, 이곳에서는 개인 블로그 링크를 허용하지 않아 내용을 축약해서 옮겼습니다. 그래서 여기서 더 줄이면 오히려 제가 말하고자 하는 조건과 맥락이 빠져 의미가 제대로 전달되기 어려울 것 같습니다.

  4. pjoonmo79

    미래 인간의 가치가 무엇인가 그리고 가역적 화복탄력성은 있는가??

    핵심주제 인것 같은데

    필수 가치가 하나있고. 다시 인간 중심으로 돌아올 수 있습니다

    앞으로 50년뒤 인간의 모든영역에 영향력이 1% 미만으로 떨어졌을때

    미야케 이밴트가 발생하면 어떻게 되냐고 AI에게 물어보새요

  5. pjoonmo79

    내일 미야케 이밴트가 발생하면 어떻게 되는지 AI 한태 물어보세요

    30년뒤 인간영향력 10% 미만일때

    50년뒤 인간영향력 1% 미만일때

    인간이 하위기술을 다 잊어버리고 인프라 산업에 유지보수에 전혀 개입할수 없을 정도일 경우

    미야케 이벤트가 발생하면 어떻게 되는지

    AI에게 예측 피해보고서를 작성해달라고 해보세요

    그럼 질문자께서 원하는 답이 나올겁니다

  6. pjoonmo79

    기후이변? 핵전쟁? 그것보다 더 흥미로운 결과를 볼수

  7. 해례

    말씀 감사합니다.

    그래서 이런 이야기가 떠올랐습니다. 이게 실화인지는 모르겠습니다. 신발 판매원이 아프리카에 가게 되었습니다. 아프리카 부족민들이 신발을 신지 않는 것을 보고 신발 판매원은 엄청난 시장이라고 생각했습니다. 신발 판매원의 노력으로 부족민들은 신발을 신게 되었고, 나뭇가지나 돌 위에서도 걸을 수 있었던 굳은살 있는 발은 점차 신발에 익숙한 말랑한 발이 되었습니다. 그렇게 신발이 없던 시절로는 되돌아가기 어려워진 거죠.

    AI도 지금 우리에게 그런 신발 같은 존재가 아닐까 합니다. 스스로 사유하는 과정 속에서 무언가를 해내고, 어쩌면 인간을 인간답게 지켜주던 일종의 굳은살이 조금씩 옅어지는 기분이랄까요? 신발이 없어진다고 걷는 능력 자체가 사라지는 것은 아니겠지만, 예전처럼 활동하기는 굉장히 힘들어질 겁니다. 저만 해도 지금 당장 신발 없이 살라고 하면 못 살겠거든요. ㅎㅎ

    최근까지 AI 업계는 속력만 보고 달려왔고, 이제서야 “이거 이래도 되나?” 싶은 목소리가 조금씩 나오고 있는 것 같습니다. 완전히 늦었다고 생각하지는 않습니다만, 한편으로는 이런 고민이야말로 처음부터 함께했어야 하는 것 아닌가 하는 생각도 하게 되는 요즘입니다.

  8. pjoonmo79

    위에 적힌 내용으로 AI한태 안물어보고 안찾아봤군요

    미야케 이밴트는 5000년간 4~5번 정도 찾아오는 우주 이상기후 입니다
    태양폭발의 케링턴 이밴트의 50~100배 정도 수준이고 한달에서 1년입니다

    원인은 알려져 있지 않고 나무 나이태와 동위원소에 흔적을 남기는 현상입니다
    현재 전자장비 상당수가 쓸수 없게되고 반도체 기반 메모리 저장장치는 데이터는 지워집니다

  9. 해례

    그렇지는 않습니다. 말씀하신 부분에 대한 이해가 부족해 GPT와 제미나이 둘 다 대화해보고 다시 한번 생각을 정리해 쓴 답변이었습니다.

  10. pjoonmo79

    미야케 이밴트 한번이면 모든 AI가 순식간에 사라집니다
    우주 이상기후 한번이면 말이죠

  11. JAMESCUBE87

    글을 읽고 생각나는건 과연 돌아갈 수 있을까? 에 대한 의문이 먼저 남는것 같습니다.
    저는 못 돌아간다. 에 한 표이고
    그렇다면 우리가 어떻게 운용할지에 대한 고민
    그리고 AI로 만든 가치를 어떻게 Evaluation 할지가 가장 큰 지점이라고 생각합니다.

  12. 해례

    말씀 감사합니다.

    저도 못 돌아갈 것 같습니다. 위의 댓글에서 적었듯이 신발 없는 세상은 이제 상상도 안 됩니다. ㅎㅎ 다만 ‘AI 없는 세상’에 대한 극단적인 공포보다는, 말씀처럼 회복성을 유지하면서 성장해가는 방향을 어떻게 만들 것인가를 논의해야 한다고 생각합니다.