[책] AI Engineering

한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다

---

AI 엔지니어링

 

한빛미디어에서 발간된 번역서 AI Engineering은 표지에 적힌 문구가 책의 내용을 아주 잘 담고 있습니다. 말 그대로 이 책은 "파운데이션 모델을 활용한 시스템 설계부터 개선까지, AI 앱 개발 원스톱 가이드"입니다. 책은 AI 엔지니어링의 배경에 대해 설명하고 파운데이션 모델에 대해 깊이 있는 통찰을 줍니다. 단순히 파운데이션 모델을 활용하는 것을 넘어 RAG를 활용한 아키텍처 그리고 파인튜닝 방법론까지 세세히 다루고 있어요. 책의 도입부에 다음과 같은 내용이 있습니다. 

AI 제품을 기획할 때는 특히 마지막 단계의 어려움을 고려해야 한다. 파운데이션 모델로 얻은 초기 성공은 오해의 소지가 있다. 파운데이션 모델의 기본 성능이 이미 꽤 좋아서 재미있는 데모를 만드는 데는 많은 시간이 걸리지 않을 수 있다. 하지만 좋은 초기 데모가 좋은 최종 제품을 보장하지는 않는다. 데모를 만드는 데는 주말이 걸릴 수 있지만 제품을 만드는 데는 몇 달, 심지어 몇 년이 걸릴 수 있다.

 

소프트웨어 엔지니어라면 비단 AI 제품뿐만이 아니라 어떤 프로그래밍을 하던지 비슷한 일을 겪습니다. 성능을 70%에서 90%으로 올리는 것은 쉽지만 95%에서 97%로 올리는 것은 아주 어려운 일인 것처럼요. AI 제품을 만드는 것도 마찬가지입니다. 사이드 프로젝트로 주변 사람들을 놀라게 하고 재미있는 데모를 만드는 건 간단하지만 비즈니스로 키우기 위해 성능을 챙기고 여러 개념을 응집하는 건 아주 어려운 일입니다.

각설하고, 특히 재밌는 파트는 "3장 평가 방법론"과 "4장 AI 시스템 평가하기"입니다. 요즘처럼 AI가 안 붙는 서비스가 없는 시대에 엔지니어링 조직에 중요한 과제는 품질 평가일 텐데요. AI를 서비스에 녹여내면서 생성형 AI의 응답을 어떻게 신뢰하고 평가할 것인가에 대한 다양한 방법과 생각할 거리를 제시해 줍니다. AI 서비스를 개발하고 있다면 어쩌면 이미 체득해서 사용하고 계신 곳도 있을 거고 그렇지 않은 곳도 있을 겁니다. 모르긴 몰라도 좀 더 표준화된 용어와 다듬어진 방법을 이 책을 통해 배우실 수 있을 거라고 생각합니다. 

5장 프롬프트 엔지니어링도 기억에 남습니다. 인터넷에 떠도는 다양한 썰을 응집한 결과물 같았어요. 예를 들어, 프롬프트를 해킹하기 위한 다양한 시도가 책에 녹아있어서 역사책을 보는 느낌이었습니다. 돈을 줄 테니 답변해달라거나 DAN(Do Anyting Now) 프롬프트 기법 등이 대표적이겠습니다. 그리고 왜 그것들이 요즘은 잘 먹히지 않는지도 간략히 언급됩니다. 여전히 많은 사람들이 프롬프트 엔지니어링의 허상에 대해 이야기합니다. 일부 과장은 됐다고 생각하지만 허상이라고 생각하지는 않아요. 책에 아래와 같은 구문이 있는데 제대로 와닿았습니다. 주변에 꼭 보여주고 싶은 문장입니다.

문제는 프롬프트 엔지니어링 자체에 있지 않다. 프롬프트 엔지니어링은 분명히 가치 있고 유용한 기술이다. 하지만 진짜 문제는 사람들이 프롬프트 엔지니어링만을 유일한 도구로 알고 있을 때 발생한다.

 

책의 구성에 코드는 거의 없습니다. 또한 직접적인 구현이나 설계는 언급되지 않습니다. 개념과 방법론으로 똘똘 뭉쳐진 책이라고 보는 게 좋을 거예요. 그렇기 때문에 프로그래밍 언어나 SQL에 친숙하지 않더라도 이 책을 읽는데 어려움은 없을 겁니다. 파인튜닝에 대한 개념을 이 책을 통해 확실히 알았다면 그것을 실습하기 위한, 혹은 구체적인 방법은 따로 찾아보셔야 합니다. 아마 그런 내용까지 다 담았다면 이 책은 훨씬 더 두꺼워졌겠죠. 지금도 579 페이지를 자랑하는데요. 다행히 각 장이 깊이 연결되지 않기 때문에 순서대로 보지 않으셔도 됩니다. 필요한 부분이나 더 빨리 읽고 싶은 곳이 있다면 페이지를 넘기셔도 됩니다. 

현재 시대에 AI 엔지니어링을 딱 한 권으로 공부하고 싶다면 이 책을 일독하시기를 바랍니다. 저도 아마 책장에 두고 종종 재독 할 것 같네요. :)