Introduction 대규모 언어 모델(Large Language Model, LLM)은 놀라운 생성 능력을 보여주며 전 세계를 매료시켰습니다. 그러나 아무리 똑똑해 보여도, 이들은 하나의 치명적인 한계를 가지고 있습니다. 바로 거짓말을 너무 그럴듯하게 한다는 것입니다. (우아하게 표현하면 “Hallucination”이라 부르죠.) 모델이 알고 있는 지식은 학습 당시 데이터에만 기반합니다. 시간이 흐르면 정보는 낡아지고, 애초에 학습되지 않은 내용은 아예 알 수조차 없습니다. “최신 …
개요 올해는 AI와 클라우드 기술에 대한 다양한 이야기들이 있었습니다. 생성형 AI의 발전부터 클라우드 전환, 그리고 AI 개발까지 많은 주제가 논의되었죠. AI와 ML의 관심이 증가함에 따라 이를 수행하기 위한 클라우드 도입이 급격히 증가하면서 비용 관리의 중요성도 함께 부각되고 있습니다. AWS는 유연하고 확장 가능한 클라우드 서비스를 제공하지만, 잘못된 사용 패턴이나 불필요한 리소스 낭비는 높은 비용을 초래할 수 …
1. 개요 1.1 개요 AWS에서 Reserved를 이용하거나, Server Resizing을 하는 등 서버의 비용을 절약하는 방법은 다양 합니다. 그러나 제일 좋은 방법은 서버를 사용하지 않을 때 서버를 중지 시키는 방법일 것입니다. 물론 서버 중지를 수동으로 할 수 있지만, 중지 하는 것을 잊어버리는 경우도 있고 매번 중지하는게 번거로울 수 있습니다. EC2를 자동으로 중지, 시작할 수 있는 방법은 …
