기업이 LLM을 도입하는 속도는 점점 더 빨라지고 있지만,“모델이 얼마나 똑똑한가”보다 “얼마나 안전하게 운영되는가”가 훨씬 중요한 시대가 되었습니다.2025년 현재, 가장 많은 기업이 실제 도입하는 AI 구성요소는 에이전트나 멀티모달 기능이 아니라 가드레일(Guardrails)입니다. 가드레일은 단순한 금칙어 필터가 아니라,입력·출력·Retrieval·도구 호출·데이터 접근·추론 과정 전체를 통제하는 AI 보안 계층으로 진화하고 있습니다.이번 글에서는 이 새로운 흐름, 즉 LLM Guardrails 2.0의 구조와 작동 …
LLM Guardrails 2.0: 필터링을 넘어 추론 기반 보안 체계로 진화하는 AI 안전성 아키텍처 더 보기 »
1. 개요 AI를 활용한 비즈니스 모델이 전 산업에 걸쳐 중요해진 만큼 다양한 LLM 모델들이 빠르게 개발되고 있습니다. 이러한 언어 모델들은 각각의 특성과 니즈에 따라 성능과 생성해 낼 수 있는 답변의 방향성도 천차만별이기에 하나의 LLM 모델만을 고수하여 모든 요구사항을 해결하고자 하는 것 보다는 전문성·성능·응답 속도에 따라 상황별로 모델을 선택하는 방식이 중요해지고 있습니다. 최근 LLM들은 상당히 범용적이지만, …
1. 개요 Amazon EKS Fargate는 서버리스(Serverless) 방식의 Kubernetes 실행 환경으로, 사용자가 EC2 노드를 직접 관리하지 않아도 컨테이너를 실행할 수 있도록 지원합니다. 기존 EC2 on Fargate환경에서는 데이터 플레인(Data Plane) 즉, 워커 노드 및 Kubelet 구성, AMI 패치, 스케일링 등을 사용자가 직접 관리해야 합니다.반면, Fargate on EKS는 이 데이터 플레인을 AWS 측에서 완전 관리 형태로 운영하기 때문에, …
교보DTS는 전 직원이 함께 참여한 ‘AI 에이전트 경진대회’를 열었습니다.이번 대회는 교보DTS는 자체 생성형AI 솔루션(Able) 완성도를 높이고 임직원들이 생성형AI 에이전트 개발 및 활용할 수 있도록 이번 대회를 기획하게 되었습니다. 클라우드 기반의 Able은 비전문가도 손쉽게 에이전트를 개발할 수 있도록 구성하였고, 다양한 직무의 전 직원들이 자유롭게 참여를 했습니다.팀별로 다양한 아이디어를 나누고 구현하는 과정에서 AI의 가능성을 함께 탐색하며 협업을 …
AI가 단순히 모델 수준에서 뛰어난 성능을 내는 것만으로는 이제 충분하지 않습니다.실제 비즈니스 환경에서 AI는 수많은 데이터, 도구, 시스템, 사람과 함께 작동해야 하며, “운영 가능한 인프라” 위에서만 진정한 가치를 발휘합니다.바로 이 지점에서 AWS가 선보인 AgentCore가 핵심적인 역할을 합니다. 이번 글에서는 AI 에이전트의 프로덕션화를 완성하는 퍼즐 조각, Amazon Bedrock AgentCore에 대해 이야기해보겠습니다 1. AgentCore란 무엇인가? AgentCore는 AWS …
“AI 거버넌스, 보안, 메모리, 통합을 하나로 — AgentCore로 완성하는 기업형 AI 운영 체계” 더 보기 »
FY 2025 AWS Public Sector Offline Seminar 행사 기록 안녕하세요, 교보DTS 클라우드 소식입니다.저희 교보DTS는 지난 9월 18일 서울 강남에서 오프라인 세미나를 개최했습니다.이번 세미나에서는 에티버스, 데이터독, 그리고 저희 교보DTS가 각각 발표를 진행하며 최신 클라우드 기술과 활용 사례를 발표하였습니다. FY 2025 AWS Public Sector Offline Seminar 세션 발표 이세범 SA 님께서는 Agentic AI를 주제로 발표를 진행하며, 자율적·반자율적 …
1. 개요 AI 에이전트의 실험 단계를 넘어 실제 운영 환경으로 전환할 때, 우리는 확장성, 보안, 관리의 어려움이라는 현실적인 문제에 직면합니다. 이 워크숍에서는 Amazon Bedrock AgentCore를 사용하여 이러한 과제를 해결하고, 아이디어를 실제 서비스로 구현하는 방법을 학습합니다. AgentCore는 대규모 AI 에이전트를 안전하게 배포하고 운영할 수 있도록 설계된 완전 관리형 서비스입니다. 이 실습 과정에서는 AgetnCore를 사용한 Strands 에이전트를 …
[Hands-On] Amazon Bedrock AgentCore를 사용한 Strands 에이전트 배포 더 보기 »
안녕하세요, 교보디티에스㈜입니다. 2025 AI Agent 개발 경진대회를 개최하게 되었습니다! AI Agent 개발 경진대회는 교보DTS 임직원 누구나 참여하여AI 활용 역량을 강화하고, 새로운 아이디어를 실현해볼 수 있는 기회의 장을 마련하기 위해 진행됩니다.여러분의 많은 관심과 참여 부탁드립니다! 💻[ 경진대회 개요 ] – 참가 대상 : 개인 또는 팀(인원제한 없음)– 대회 주제 : 1) 담당 업무 개선(SM, SI, 인프라 운영 …
개요 실시간 AI 경험에서 중요한 건 단순히 모델이 얼마나 빨리 답을 내놓느냐가 아닙니다. 사용자가 체감하는 품질은 “정답이 만들어지는 과정을 얼마나 자연스럽게 보여주느냐” 에서 더 크게 드러납니다. 이번 핸즈온에서는 Amazon API Gateway WebSocket, AWS Lambda, Amazon Bedrock을 활용하여 실시간 AI 채팅 애플리케이션을 구축하면서, 실시간 스트리밍의 핵심 개념들을 직접 체험해보겠습니다. 핵심 아키텍처와 역할: API Gateway WebSocket: 연결을 …
실시간 AI 경험에서 중요한 건 단순히 모델이 얼마나 빨리 답을 내놓느냐가 아닙니다. 사용자가 체감하는 품질은 “정답이 만들어지는 과정을 얼마나 자연스럽게 보여주느냐”에서 더 크게 드러납니다. LLM(대규모 언어모델)은 문장을 한 번에 완성하지 않고 토큰 단위로 조금씩 생성합니다. 브라우저는 이 조각들을 이어 붙여 사용자에게 보여주죠. 검색 엔진처럼 한 번에 결과가 나오는 것과 달리, 대화형 AI에서는 문장이 만들어지는 과정 …
