본문 바로가기

Data Science/Viewpoint2

트랜스포머를 벗어나는 날이 곧 올까? 트랜스포머에 완전히 질렸다.- Llion Jones 며칠 전, "Attention is all you need"의 공동 저자 Llion Jones는 트랜스포머에 완전히 질렸다고 했다(출처).딥러닝 관련 연구가 지나치게 트랜스포머라는 한 가지 아키텍처의 의존하여 혁신이 사라진 것 같다는 우려에서 비롯된 발언일 것이다. 딥러닝은 현재 프랜스포머 아키텍처가 지배하고 있다고 할 수 있다. GPT 등 거대 언어 모델의 핵심이며 이미지 분야에서도 엄청난 효과를 입증하였다. 인공지능 기술들이 매우 빠르게 발전하는 만큼 새로운 구조도 많이 개발될 것 같지만 사실 대부분 트랜스포머를 기반으로 한 결과물이다. 트랜스포머를 대체하려는 시도는 분명히 계속되고 있다. 하지만 여전히 대체되지 않았다. LLM, 5년 내 구식이 될.. 2025. 10. 27.
프롬프트는 공손해야 할까? 샘 알트먼, ChatGPT에게 "제발"이나 "고마워"라고 말하는 건 수천만 달러의 컴퓨팅 파워를 낭비하는 짓.[출처 기사] Sam Altman Admits That Saying "Please" and "Thank You" to ChatGPT Is Wasting Millions of Dollars in Computing PowerSam Altman says OpenAI is spending "tens of millions of dollars" processing chatbot queries made with proper etiquette.futurism.com 프롬프트 엔지니어링 관련글에서 인공지능에게 가는 말이 고와야 오는 답변 퀄리티가 좋다는 내용을 본 적이 있다.그러나 알트먼은 그것이 정말 효과적인지.. 2025. 4. 26.