[AI] ‘AI 조련사’ 프롬프트 엔지니어?

오픈AI 개발자들이 설립한 챗봇 스타트업 Anthropic의 채용공고에서 최대 $375,000(약 4억 후반)의 연봉을 내걸고 인공지능 프롬프트 엔지니어 직무로 채용공고가 오픈 되어있습니다.

어마어마한 연봉에 프롬프트 엔지니어가 뭘까 하고 검색을 해보니 인공지능 시대에 등장한 새로운 직업이며, IT업계에서는 스마트폰이 생기면서 안드로이드와 iOS앱 개발자가 생긴것과 비슷한 맥락이라고 말하는 이들도 있습니다.

프롬프트 엔지니어에 요구되는 역량이 결국 현재 우리가 살아가고 있는 인공지능 시대에 우리 모두에게도 필요한 역량이 아닐까 하는 생각에 이렇게 글을 시작 합니다.

"Writing a really great prompt for a chatbot persona is an amazingly high-leverage skill and an early example of programming in a little bit of natural language (챗봇 페르소나를 위해 훌륭한 프롬프트를 작성하는 것은 활용도가 굉장히 높은 기술이며 약간의 자연어로 프로그래밍하는 것의 초기 사례이다)." - OpenAI CEO Sam Altman

"The hottest new programming language is English (현재 가장 핫한 프로그래밍 언어는 영어다)". - 전 Tesla AI 총 책임자, OpenAI 창립 멤버 Andrej Karpathy

프롬프트란?

프롬프트란 누군가가 특정한 작업을 수행하는 걸 도우려 전달하는 메시지를 뜻합니다. 아나운서가 뉴스를 진행할때 해야 할 말을 까먹지 않도록 대본을 띄워 주는 ‘프롬프터’를 떠올리면 이해가 쉽습니다. 인공지능 분야에서 프롬프트(Prompt)를 정의한다면 AI 모델로부터 이미지나 텍스트 결과를 얻기 위한 입력값 이라고 말할 수 있습니다.

프롬프트 엔지니어링?

인공지능 중에서도 NLP(자연어 처리) 분야의 개념으로, AI가 생성하는 결과물의 품질을 높일 수 있는 프롬프트 입력값들의 조합을 찾는 작업 이라고 정의 할 수 있습니다.

AI에게 자연어로 대화를 걸며, AI의 최적 답변을 이끌어내고, 편향되거나 위험한 결과를 최소화하기 위해 효과적인 입력값 조합을 찾고 제시하는 역할을 합니다.

ChatGPT 프롬프트 엔지니어

‘AI조련사’라는 별명을 가진 인공지능 프롬프트 엔지니어가 주목을 받게 된건 인공지능에 입력하는 질문 수준에 따라서, 즉 어떤 프롬프트를 입력하느냐에 따라 출력값이 달라지기 때문입니다.

예를 들어, ChatGPT에게 단순히 "ChatGPT 무엇인가요?"라고 질문하는 것보다 “ChatGPT 무엇인지 초등학교 학생들에게 설명하듯 설명해주세요.” 라고 질문을 하게되면 비슷하지만 전혀 다른 느낌의 답변을 듣게 됩니다.

프롬프트 엔지니어링의 중요성

사람이 보기에 의미적으로 차이가 없는 문장이어도, 위와 같이 입력값이 조금만 달라져도 완전히 다른 결과물을 생성해냅니다. 최근에는 "Let's think step by step (차근차근 생각해보자)"라는 트리거 문장 하나를 추가하는 것 만으로 AI가 보다 더 정확하고 똑똑한 대답을 내놓기도 했다고 합니다.

프롬프트를 잘 쓰는 것은 AI를 효과적으로 쓰는 것과 직결되고, 이를 위해 최적의 단어 조합을 찾아내는 것이 매우 중요해졌습니다. 프롬프트를 잘만 활용한다면 AI의 가능성을 최대치로 끌어올려 사용할 수가 있으며 앞서 언급한 거대 언어 모델들이 고질적으로 가지고 있는 잘못된 정보를 사실인 것 같이 답변으로 제시하는 일명 *할루시네이션 과 같은 모델의 치명적인 한계점에 대한 우려도 커지고있는데 정확한 답변을 이끌어내는것을 유도하면서 이러한 오류를 줄이는데 도움이 되기 때문입니다.

할루시네이션이란?

할루시네이션(hallucination)은 환각이나 환영을 의미하는데, AI관점에선 사실이 아닌 문자나 이미지를 마치 답처럼 내놓는 현상으로 잘못된 데이터를 학습한 결과 사실과 전혀 다른 엉뚱한 대답을 하기도 합니다. 또한 ChatGTP에 적용된 RLHF(인간 피드백 기반 강화 학습)는 입력에 대한 답변을 인간이 얼마나 선호 하는지를 평가하고 최대한 올바른 답변을 하도록 유도하는 것인데, 그래서 ChatGTP의 결과는 정답이 아니라 ‘정답일 확률이 가장 높을 답변’을 하게 됩니다.

잘못된 질문을 했을때도 다음과 같이 확률적으로 그럴 듯한 답변을 해줍니다.

‘이순신이 만든 자라선..’ 이라고 시작하면서 존재하지도 않는 자라선의 위대함에 대해 답변을 계속 이어 갑니다.

다시 한번 똑같은 질문을 합니다.

이번에는 거북선이라는 단어가 등장하면서 ‘자라선은 대한민국 국보로 지정되어 있습니다.’ 라는 엉뚱한 답변을 듣게 됩니다.

다시 한번 정리하자면 위에서 언급했듯이 ‘정답이 아닌 주어진 질문에 대해 가장 정답일 확률이 높은 답변’을 제공하는걸 알 수 있습니다. 이는 RLHF 등의 결과물로 데이터가 부족할 경우 틀린 대답이라도 그럴듯한 대답을 하는 상황이 발생합니다.

오픈 AI가 공개한 Quickstart문서의 프롬프트 작성 가이드라인은 간단합니다. 원하는 결과물에 대해 구체적으로 제시하고, 결과물 형식의 예시를 함께 입력하는 것입니다.

Midjourney

미국 콜로라도 주립 박람회 미술대회의 디지털 아트부분에서 Midjourney AI가 그린 그림이 1위를 수상하여 많은 사람들을 놀라게 했습니다.

Midjourney로 제작한 제이슨 M. 앨런의 작품 ‘스페이스 오페라 극장’(Theatre D'opera Spatial)

굉장히 웅장하고 성스러운 느낌의 작품으로 보입니다. 르네상스 시대에 유명 화가가 그렸다고 해도 믿을 만큼 아주 멋진 작품이라고 생각하는데 이 그림을 그린 프로그램이 바로 Midjourney라는 AI로 텍스트를 입력하거나 이미지 파일을 삽입하면 자동으로 그림을 만들어줍니다. 이 또한 어떻게 입력하느냐에 따라 결과값이 달라지고 설명이 디테일하고 명확할 수록 자기가 원하는 결과를 얻어낼 수 있습니다.

아쉽게도 무료 평가판 서비스가 중단되었는데 엄청난 수의 사용자와 딥페이크 이미지 제작 남용, 바이러스성 이미지 생성 등 여러가지 이슈로 중단된게 아닌가 생각됩니다.

 

Midjourney 디스코드 메인 화면

프롬프트 마켓플레이스

Midjourney, Stable Diffusion, DALL·E 2, ChatGPT 등의 인공지능 분야에서 다양한 결과물의 생성을 위해 요구되는 프롬프트 즉 ‘AI 명력어’가 중요한데, 아무리 도구가 좋아도 쓸 줄 모르면 쓸모가 없는 것처럼 최상의 답변을 끌어내기 위하여 프롬프트 엔지니어들이 자신들의 프롬프트를 사고 팔거나 무료로 공유하는 마켓플레이스의 수와 규모가 증가하는 추세입니다.

프롬프트 마켓 ‘ChatX’

대표적인 프롬프트 마켓플레이스로는 ChatX, NeutronField, PromptSea, PromptBase 가 있고 국내 마켓인 prompt.town도 있습니다. 마켓별 지원하는 AI 시스템, 목적, 제공방법이 다양한데, 특히 PromptSea의 경우에는 프롬프트를 NFT화 하여 블록체인에 기록하고 추후 추적이 가능하도록 지원중이며, Neutron Field는 ChatX 보다 더 넓은 범위의 AI 시스템까지 거래가 가능하며 고퀄리티 텍스트, 이미지 프롬프트를 제공하는데 특화되어 있습니다.

마치며..

현재 우리는 AI에게 말만하면 다양한 분야의 업무를 일부 자동화하고 효율화 할 수 있게 되었습니다.

미세한 입력 차이로 인해 답변의 퀄리티가 크게 달라지는데, 결국 핵심은 좋은 질문, 그 질문을 하기 위해서 어려운 기술로 보이지만 결국 AI를 다루는 사람이 핵심이라 생각 합니다. AI는 어떻게 값을 넣느냐에 따라 결과를 제공해주지만 최종 결과물을 만드는건 프롬프트 엔지니어이고 AI가 최대치의 성능을 발휘할 수 있도록 사용법을 제시하는 역할을 한다고 생각합니다.

 

예를 들어 누구나 엑셀을 실행해서 사용할 수 있으나 조금 더 복잡한 태스크를 수행하기 위한 함수나 VBA(Visual Basic for application) 혹은 매크로를 사용하기 위해선 전문가들의 공식을 참고하여 만들어야 하는 것과 유사하다고 생각합니다.

그러나 많은 개선도 필요해 보입니다. 특히 데이터의 품질과 양, 편향성 문제 관련해서 부정적인 시선도 적지 않게 있고 AI를 해킹하는 ‘Adversarial Prompting’, 결과물에 대한 저작권 침해 관련 분쟁, ChatGPT로 작성한 논문 표절 검사 통과, 틀린답을 말하는 할루시네이션 현상 등 업무를 돕고 편리하고 유용한 도구가 될 수도 있는 반면 악용될 가능성도 높습니다.

현재 OpenAI와 함께 기술 시장을 진두지휘하고 있는 MS의 CEO Satya Nadella도 지난 월스트리트저널과의 인터뷰를 통해 GPT 모델을 상용화 할 것을 언급하고 미래에 잘 대비하는 방법으로 AI와 함께 잘 협업할 수 있는 방안도 함께 모색하는것이 좋을 것이라고도 이야기 하였습니다.

 

프롬프트 엔지니어링 또한 아직 주목 받은지 얼마 되지 않은 분야이기에 기대와 우려가 존재하는거 같아 조금 더 지켜볼 필요가 있다고 생각 합니다. 어떻게 보면 AI기술이 인간과 더욱 가까워지는것을 의마하기도 하는데 어떻게 보면 회사에서도 협업을 잘하기 위해서 좋은 질문(?)을 고민하는 과정과도 비슷하게도 느껴집니다. 앞으로 AI를 잘 다루는 프롬프트 엔지니어가 각광받을 시간이 온거 같기도 하고 앞으로 어떻게 하면 AI를 잘 지배할 수 있을지에 대한 생각도 잠시 해봅니다. 잘만 활용한다면 AI 통해 우리의 삶이 더욱 더 편리해지고 풍요로워질 것이라고 기대 해봅니다.