『AI 엔지니어링: 파운데이션 모델을 활용한 시스템 설계부터 개선까지, AI 앱 개발 원스톱 가이드』는 칩 후옌의 『AI Engineering: Building Applications with Foundation Models』를 변성윤이 옮긴 한국어판이다. ISBN 9791169214278인 이 판본은 2025년 9월 한빛미디어에서 출간된 580쪽 분량의 종이책으로, 이미 개발되어 이용 가능한 파운데이션 모델을 바탕으로 실제 AI 애플리케이션을 설계하고 운영하는 방법을 다루는 기술 실무서이다. 제목의 ‘AI 엔지니어링’은 모델 자체를 훈련하는 일에 국한되지 않고, 모델과 데이터, 평가 체계, 인프라를 결합해 사용자에게 가치를 제공하는 시스템을 만드는 과정을 뜻한다.
저자 칩 후옌은 머신러닝 시스템을 연구하고 실제 서비스에 적용해 온 컴퓨터 과학자이자 기술 작가이다. 엔비디아, 스노클 AI, 넷플릭스에서 머신러닝 도구와 시스템을 다뤘으며 AI 인프라 기업을 창업해 매각한 경험이 있다. 스탠퍼드대학교에서 머신러닝 시스템 설계를 가르쳤고, 대표적인 기술서로 『Designing Machine Learning Systems』와 『Machine Learning Interviews』가 있다. 연구 결과를 모델로 구현하는 단계와 이를 안정적인 제품으로 운영하는 단계 사이의 간극이 저자의 주요 전문 분야이다.
이 책은 파운데이션 모델의 보급으로 AI 프로토타입을 만드는 진입 장벽은 낮아졌지만, 이를 신뢰할 수 있는 제품으로 발전시키는 일은 여전히 어렵다는 문제의식에서 출발한다. 저자는 2023년 공개한 프로덕션용 LLM 애플리케이션에 관한 글에서도 시제품 제작과 실제 서비스 운영의 차이를 분석했으며, 이를 더 넓은 파운데이션 모델 환경으로 확장해 책의 체계로 발전시켰다. 전작 『Designing Machine Learning Systems』가 프로덕션 머신러닝 시스템 전반을 다뤘다면, 이 책은 외부에서 제공되는 범용 모델을 활용하는 새로운 개발 환경에 초점을 맞춘 상호 보완적 후속 저작이다.
본문은 모두 10장으로 구성된다. 먼저 AI 엔지니어링의 등장 배경과 기존 ML 엔지니어링과의 차이, 파운데이션 모델의 학습 데이터·아키텍처·사후 학습·샘플링 특성을 설명한다. 이어 개방형 출력을 내놓는 모델을 평가하는 어려움과 퍼플렉시티, 임베딩 기반 유사도, 기능적 정확성, AI 평가자 같은 방법을 살펴보고, 목적과 위험에 맞는 평가 파이프라인을 설계하는 절차를 다룬다.
중반부에서는 프롬프트 엔지니어링, 검색 증강 생성과 에이전트, 파인튜닝, 데이터셋 엔지니어링을 서로 분리된 유행 기술이 아니라 모델을 애플리케이션 요구에 맞게 조정하는 선택지로 비교한다. 각 방법이 효과적인 조건과 한계, 비용 및 품질 사이의 절충을 함께 설명하며, 특정 기법을 무조건 적용하기보다 가장 단순한 접근에서 시작해 필요에 따라 시스템을 확장하는 개발 프레임워크를 제시한다. 환각, 모델 선택, 평가 데이터 부족처럼 AI 서비스를 만들 때 반복적으로 나타나는 문제도 시스템 차원에서 바라본다.
후반부는 지연 시간과 비용을 줄이기 위한 추론 최적화, 모델 라우팅과 캐싱을 포함한 아키텍처 설계, 사용자 피드백을 이용한 반복적 개선으로 이어진다. 개별 도구의 사용법이나 특정 프레임워크의 코드 문법보다 문제 정의, 평가 기준, 기술 선택의 근거와 운영상의 절충을 강조하는 것이 특징이다. 빠르게 교체되는 모델 이름과 라이브러리 사용법을 나열하기보다 비교적 오래 적용할 수 있는 설계 원칙과 의사결정 구조를 전달하는 데 무게를 둔다.
AI·ML 엔지니어, 데이터 과학자와 연구원, 생성형 AI 제품을 담당하는 소프트웨어 개발자와 프로덕트 매니저에게 적합한 중급 이상 실무서이다. 파운데이션 모델과 머신러닝의 기본 개념을 알고 있다면 이해하기 수월하지만, 모델을 처음부터 학습시키는 교재나 단계별 코딩 실습서는 아니다. LLM API를 호출해 본 뒤 품질 평가, RAG와 파인튜닝의 선택, 비용·지연 시간 관리, 운영 피드백 설계로 학습 범위를 넓히려는 독자에게 특히 알맞다. 모델 내부 구현에 집중하는 LLM 입문서와 달리, 여러 기술을 하나의 프로덕션 시스템으로 연결하는 방법에 초점을 맞춘다.
영문 원서는 2025년 오라일리 플랫폼에서 가장 많이 읽힌 책으로 발표되었으며 여러 언어로 번역되었다. 한국어판은 원서의 초판을 번역한 종이책이며, 별도의 개정·증보 내용은 확인되지 않는다. 종이책 ISBN은 9791169214278이고 전자책에는 9791169219938이라는 별도 eISBN이 부여되어 있으므로 두 판본을 구분해야 한다. 이 책의 핵심 가치는 특정 모델이나 도구를 익히는 데 그치지 않고, 파운데이션 모델 기반 애플리케이션을 기획하고 평가하며 배포한 뒤 지속적으로 개선하는 전체 과정을 하나의 엔지니어링 문제로 정리한다는 데 있다.