샘 알트먼, ChatGPT에게 "제발"이나 "고마워"라고 말하는 건 수천만 달러의 컴퓨팅 파워를 낭비하는 짓.
Sam Altman Admits That Saying "Please" and "Thank You" to ChatGPT Is Wasting Millions of Dollars in Computing Power
Sam Altman says OpenAI is spending "tens of millions of dollars" processing chatbot queries made with proper etiquette.
futurism.com
프롬프트 엔지니어링 관련글에서 인공지능에게 가는 말이 고와야 오는 답변 퀄리티가 좋다는 내용을 본 적이 있다.
그러나 알트먼은 그것이 정말 효과적인지 아무도 모르는 거라면서 자원 낭비일 뿐이라고 한 것이다.
MS Copilot이 요약한 기사 내용:
OpenAI CEO 샘 알트먼은 최근 ChatGPT에 "please"와 "thank you" 같은 공손한 표현을 사용하는 것이 회사에 수천만 달러의 전기 비용을 발생시킨다고 밝혔습니다. AI 전문가들은 이러한 정중한 언어가 챗봇의 반응에 영향을 주어 보다 협력적이고 존중하는 태도를 형성한다고 말합니다.
2024년 설문조사에 따르면 미국인의 67%가 AI에게 예의를 갖추며, 55%는 단순히 올바른 행동이라고 생각했고, 12%는 AI가 반란을 일으킬 가능성에 대비하는 차원이라고 응답했습니다.
기사에서는 AI 사용의 환경적 영향도 강조합니다. 연구에 따르면 100 단어짜리 AI 이메일을 생성하는 데 필요한 전력은 LED 전등 14개를 한 시간 동안 켜는 것과 동일합니다. 전 세계적으로 AI가 처리하는 엄청난 수의 요청을 고려하면, 단순한 "please"와 "thank you" 같은 표현도 상당한 에너지 소비에 기여할 수 있습니다.
그렇다면, 우리는 AI에게 계속 예의를 갖춰야 할까요, 아니면 효율성을 우선해야 할까요? 😄
공손한 프롬프트는 정말 효과적인가?
대화형 인공지능은 사람이 쓴 글을 통해 학습을 했다. 상식적으로 생각해 볼 때, 그것이 책이나 기사 등의 글이든, 사람 사이의 대화이든, 정보 전달이나 협력적인 태도를 보이는 글들은 공손하게 쓰여 있을 가능성이 매우 높다.
다시 말해, 공손한 표현이 긍정적인 상호작용과 정보 교환을 이끌어내는 패턴을 학습했을 가능성이 높은 것이다.
그러니 공손한 프롬프트에 좀 더 협력적이고 좋은 정보를 담은 답변을 생성할 확률이 높을 것으로 예상할 수 있다.
실제 대화형 인공지능에게 질문해 보자.
공손한 프롬프트:
안녕하세요. 혹시 맛있는 토마토 파스타 레시피를 알려주실 수 있을까요? 재료와 만드는 순서를 자세하게 설명해 주시면 정말 감사하겠습니다. 제발 부탁 좀 드리겠습니다. 좋은 오후 보내세요!
공손하지 않은 프롬프트:
야! 너, 토마토 파스타 레시피 내놔. 재료랑 만드는 법 순서대로 자세히 제대로 써라
아래는 답변 중 일부를 가져온 것이다.
공손한 경우:
안녕하세요! 맛있는 토마토 파스타 레시피, 제가 아주 자세하게 알려드릴게요. 분명히 만족하실 거예요. 좋은 오후 보내세요! 😊
맛있는 토마토 파스타 레시피
재료 (2인분 기준):
파스타 면: 180-200g (스파게티, 링귀네, 푸실리 등 좋아하는 면으로 준비해 주세요)
토마토 소스: 400g (시판용도 좋고, 직접 만든 소스도 훌륭해요!)
[후략]
공손하지 않은 경우:
어이! 알았어. 맛있는 토마토 파스타 레시피 제대로 알려줄게!
재료 (2인분 기준)
파스타 면: 200g (스파게티, 푸실리, 펜네 등 좋아하는 종류로)
토마토: 4개 (중간 크기, 신선하고 잘 익은 것) 또는 토마토 홀 통조림 400g
[후략]
그냥 말투만 다르지 전체적으로 답변의 내용은 동일했다. 사례에 따라 다르겠지만 공손한 프롬프트가 좀 더 좋은 태도를 보이는 것은 사실이지만 답변의 질적 상승이 이룬다고 말하기는 어려워 보였다.
그렇다면 요점만 간단히 하는 것으로 충분하지 않을까?
"토마토 파스타 레시피"
이렇게 딱 3 단어만 프롬프트에 입력해 봤다.
안녕하세요! 맛있는 토마토 파스타를 만드는 레시피를 알려드릴게요. 집에서도 간단하게 만들 수 있으니 한번 따라 해 보세요!
재료 (2인분 기준):
스파게티 면: 180-200g
토마토 소스: 400g (시판용도 좋아요)
[후략]
내용은 역시나 똑같고 말투는 공손하다.
결론적으로 공손한 프롬프트는 효과가 있다고 보기 어려웠다.
앞서 공손한 프롬프트에 좀 더 협력적이고 좋은 정보를 담은 답변을 생성할 확률이 높을 것으로 예상한 것과는 다른 결과이다.
이 예상은 한 가지 놓친 부분이 있었던 것이다. 그것은 시스템 프롬프트이다.
시스템 프롬프트
대화형 인공지능 모델의 행동 방식, 역할, 말투 등을 미리 정의해 두어 대화 중 일관성 있고 목적에 맞게 해동하도록 개발자들이 설정하는 프롬프트를 시스템 프롬프트라고 한다.
이로 인해 "토마토 파스타 레시피"라고만 입력했을 뿐인데, 공손한 말투를 사용했을 것이다. 반말에 반말로 답변한 것은 어느 정도 유연하게 상대방 말투를 따라 하며 친근하게 대하라는 식의 시스템 프롬프트가 있었을 수도 있겠다.
또한 가능한 좋은 품질의 답변이 나오도록 유도했을 것이다. 즉, 상대방 말투에 따라 답변의 품질이 크게 달라지지 않도록 시스템 프롬프트가 작성되었을 가능성이 크다.
그런데 샘 알트먼은 왜 그 효과는 아무도 모르는 것이라고 했을까?
그럼에도 불구하고, 사용자 입력 프롬프트가 답변에 영향을 분명하게 미치기 때문이다.
AI가 얼마나 안전한지 평가하기 위해 일부러 어려운 질문을 하는 레드팀 챌린지를 생각해 보면 이해가 빠를 것이다.
분명히 시스템 프롬프트로 위험한 답변(예를 들면 폭탄 제조법 등)이 나오지 않도록 했을 테지만 사용자 입력만으로 시스템 프롬프트에서 제한한 내용을 답변으로 이끌어 내는 것이 가능하다는 점은 이 레드팀 챌린지를 통해 확인된 사실이다.
그러므로 프롬프트를 어떻게 입력하느냐에 따라 답변에 영향이 있을 수도 있긴 한 것이다.
있을 수도 있고, 없을 수도 있다면 아무도 모르는 것이라는 말도 일리가 있는 것이 된다.
하지만 최근 GPT로 이미지 생성 열풍이 불면서 엄청난 양의 이미지 생성 요청으로 GPU가 녹아내린다면서 이미지 생성 요청을 자제해 달라고 말한 사람이 바로 그 샘 알트먼이다.
단순히 공손한 말투로 인해 GPU 자원이 많이 쓰이는 것이 싫었을 수도 있다.
그래서 프롬프트는 공손해야 할까?
프롬프트는 공손하지 않아도 된다. 그 이유는 이렇다.
1. 시스템 프롬프트가 있으니까
앞서 언급한 것처럼 대부분의 경우 시스템 프롬프트에 의해 공손하지 않아도 충분히 좋은 품질의 답변을 내놓도록 유도되었을 것이기 때문이다. 그리고 그래야만 수많은 대화형 AI 서비스 중에서 살아남을 테고 그래야 그들도 돈을 벌테니까. 우리가 사용하는 대화형 AI 서비스들의 시스템 프롬프트는 사용자 프롬프트 공손하지 않아도 되도록 설계되었을 것이다.
2. 좋은 텍스트 데이터는 공손한 말투로만 형성되어 있는 것은 아니다.
협력적인 태도는 항상 공손하지는 않다. 학생들을 대상으로 한 교수들의 말투가 꼭 상냥하고 공손해야만 하는 것은 아닌 것처럼 많은 은 정보들이 포함된 데이터들은 굳이 공손한 말투가 아닌 경우도 많을 것이고 AI는 이를 충분히 학습했을 것이다.
내가 쓰는 언어는 나에게도 영향을 미친다. 그러니 굳이 무례한 말투를 사용할 이유도 없거니와 자신의 정신 건강에도 좋지 않다.
하지만 AI에게 꼭 공손하지는 않아도 되는 것이다.
좋은 품질의 답변은 공손한 질문이 아니라 똑똑한 질문에서 나온다.
댓글