김종호 대리

LLM은 꼭 한 토큰씩 답해야 할까

AI 서비스에서 답변의 품질만큼 자주 체감하는 요소가 응답 속도입니다. 질문에 대한 답이 화면에 조금씩 나타나는 동안 사용자는 기다립니다. 여러 번 모델을 호출하는 에이전트에서는 이러한 대기가 작업 단계마다 반복됩니다. 더 빠른 응답을 만들려면 모델의 크기나 서버뿐 아니라 텍스트를 생성하는 방식도 살펴볼 필요가 있습니다. 확산형 언어모델(Diffusion Language Model, dLLM)은 여러 위치의 토큰을 병렬로 예측하고 반복적인 정제 과정을 …

LLM은 꼭 한 토큰씩 답해야 할까 더 보기 »

피지컬 AI(Physical AI) – AI가 드디어 현실 세계로 나오다

지금까지 우리가 경험한 인공지능은 대부분 화면 속에 갇혀 있었습니다. GPT는 텍스트 답변을 생성하고 이미지 생성 AI는 그림을 만들어내지만 그 결과물이 실제 현실에서 무언가를 직접 만지거나 움직이지는 못했죠. 그런데 이제 흐름이 달라지고 있습니다. AI가 물리적 몸체를 갖추고 공장 바닥을 걷고 도로를 달리기 시작했습니다. 이것이 바로 피지컬 AI(Physical AI)가 열어가는 새로운 세계 입니다. 2025년 1월 열린 CES …

피지컬 AI(Physical AI) – AI가 드디어 현실 세계로 나오다 더 보기 »

딥시크(DeepSeek)에 이어 마누스(MANUS) 까지 – 다원화되는 중국 오픈소스 LLM 생태계

안녕하세요 AI사업팀 김종호 사원입니다. 최근 AI 업계에서 중국발 초거대 언어모델(LLM)의 혁신적 프로젝트들이 주목받고 있습니다. 딥시크는 한때 미국 중심이었던 AI 업계에 “스푸트니크 순간”을 불러올 정도로 큰 파장을 일으키며 GPT-4에 필적하는 성능을 획기적으로 낮은 비용에 구현한 사례로 주목받았습니다. 하지만 LLM 생태계는 딥시크 하나로 끝나지 않았습니다. 2025년 3월 중국에서 또 다른 혁신적 프로젝트인 마누스가 공개되어 화제가 되고 있습니다. …

딥시크(DeepSeek)에 이어 마누스(MANUS) 까지 – 다원화되는 중국 오픈소스 LLM 생태계 더 보기 »