카카오가 오는 13일부터 14일까지 이틀간 경기도 용인시 카카오 AI 캠퍼스에서 개발자 컨퍼런스 'if(kakao)26'을 개최한다. '모든 연결에 지능을'을 주제로 열리는 이번 행사에서는 자체 인공지능(AI) 모델 '카나나(Kanana)'의 개발 성과와 카카오톡 기반 AI 서비스, 에이전트 기술을 공유한다. 첫날은 AI 모델과 서비스 연결을, 둘째 날은 보안과 데이터 관리 등 기술의 신뢰성과 운영체계를 중심으로 기조연설과 기술 세션을 진행한다.
카카오는 지난해 개발자 컨퍼런스에서 카카오톡 중심의 AI 서비스 전략을 제시한 이후 자체 언어모델 개발과 서비스 적용을 병행해 왔다. 올해는 이러한 성과를 바탕으로 모델 경량화와 추론 최적화, 대화 맥락을 활용한 검색과 에이전트 협업, 개인정보 보호 등 실제 서비스 구현과 운영에 필요한 기술을 구체적으로 다룰 예정이다.
카나나 모델, 성능 개선과 서비스 운영 효율 함께 다룬다
첫날 주요 기조연설 가운데 하나는 '성능을 넘어 서비스로, 5천만 사용자를 위한 카나나 모델'이다. 카카오는 자체 언어모델의 개발 성과와 함께 실제 서비스 환경에서 필요한 학습·추론 최적화 기술을 소개할 예정이다. 대규모 이용자를 대상으로 AI 서비스를 제공하려면 언어 이해 능력뿐 아니라 응답속도와 처리량, 메모리 사용량을 함께 고려해야 한다. 이에 따라 카카오는 대형언어모델 개발과 더불어 기존 모델의 성능을 유지하면서 연산 부담을 줄이는 경량화 기술을 발전시켜 왔다.
카나나는 한국어와 영어를 중심으로 개발된 카카오의 언어모델 계열이다. 카카오 연구진이 2025년 2월 국제 논문 사전공개 플랫폼 arXiv에 발표한 'Kanana: Compute-efficient Bilingual Language Models'에 따르면, 초기 모델군은 약 21억~325억 개의 매개변수로 구성됐다. 연구진은 고품질 학습데이터 선별과 단계별 사전학습, 모델의 깊이를 확장하는 학습 방법 등을 활용했으며, 모델의 규모를 줄이기 위한 가지치기(Pruning)와 지식 증류(Distillation) 기술도 적용했다. 가지치기는 모델의 일부 구성요소를 제거해 크기를 줄이는 기술이고, 지식 증류는 큰 모델의 학습 결과를 작은 모델에 전달해 성능을 보완하는 방법이다.
이러한 모델 압축 기술은 NVIDIA 연구진의 Minitron 연구에서도 다뤄졌다. Minitron은 대형언어모델의 레이어와 은닉 차원 등 일부 구조를 축소한 뒤 지식 증류를 통해 성능을 보완하는 방법으로, 카카오는 기존 Kanana Nano 개발 과정에서 이를 활용했다고 설명했다. 이후 2026년 7월 공개한 Kanana-2 소형언어모델(SLM)에서는 3B 모델을 기반으로 1.3B와 0.9B 모델을 단계적으로 개발했다. 모델의 층수를 유지하면서 내부 연산 차원을 줄이고, 각 단계에서 지식 증류를 수행하는 방식으로 경량화를 진행했다.
모델 크기 축소와 함께 긴 입력을 처리할 때 발생하는 메모리 부담도 줄였다. 카카오는 Kanana-2 소형모델에 슬라이딩 윈도 어텐션(Sliding Window Attention)을 도입해 일부 연산 단계에서 이전 입력 전체가 아닌 일정 범위의 토큰만 참조하도록 설계했다. 카카오가 제시한 3만2,000토큰 입력 조건의 비교 실험에서는 이전 입력의 계산 결과를 저장하는 KV 캐시 메모리가 4,096MiB에서 1,120MiB로 줄어 약 72.7% 감소했다. 이는 전체 모델 메모리가 아닌 KV 캐시 사용량을 비교한 수치로, 긴 문맥을 처리하는 과정에서 메모리 사용을 줄이기 위한 기술적 접근을 보여준다.
한편 카카오는 경량모델과 별도로 전체 매개변수 300억 개 가운데 토큰 처리 시 약 30억 개를 활성화하는 혼합전문가모델(MoE) 구조의 Kanana-2도 공개했다. 혼합전문가모델은 입력에 따라 여러 전문가 네트워크 중 일부를 선택해 연산하는 방식으로, 전체 매개변수를 매번 사용하는 구조와 차이가 있다. 이 모델에는 어텐션 연산에 필요한 정보를 압축해 처리하는 다중헤드 잠재 어텐션(MLA) 기술도 적용됐다. 카카오는 이처럼 모델의 규모와 연산 구조를 달리하는 기술을 통해 다양한 서비스 환경에 대응하는 언어모델을 개발하고 있다.
한국어 이해부터 검색까지…AI 활용 범위 넓히는 기술
모델의 연산 효율과 함께 한국어 이해 능력도 카카오가 중점적으로 개발해 온 분야다. 카카오가 공개한 Kanana-2 경량모델 평가에서 3B Base 모델은 한국어 지식 평가인 KMMLU에서 47.92점을 기록했으며, 1.3B와 0.9B 모델은 각각 44.17점과 40.58점을 얻었다. 이는 문제를 풀기 전에 예시 5개를 제공하는 5-shot 방식으로 측정한 카카오의 자체 평가 결과다. 모델 크기에 따른 성능 차이를 보여주는 수치로, 경량화 과정에서 한국어 이해 능력이 얼마나 유지되는지 살펴볼 수 있는 지표다.
KMMLU는 한국어 언어모델의 지식 수준을 측정하기 위해 개발된 평가체계다. 2025년 북미전산언어학회 학술대회(NAACL)에 발표된 연구에 따르면 인문학과 과학기술 등 45개 과목의 3만5,030개 객관식 문항으로 구성됐다. 영어 평가문항을 번역하는 대신 한국의 실제 시험문제를 활용해 언어적·문화적 특성을 반영한 것이 특징이다. 이러한 평가는 언어모델이 학습한 지식을 얼마나 정확하게 활용하는지 측정하는 데 초점을 맞추지만, 실제 AI 서비스에서는 모델 내부의 지식뿐 아니라 외부 자료를 찾아 이용자의 질문에 답하는 기술도 필요하다.
이와 관련해 이번 컨퍼런스에는 '복잡한 질문에서 핵심 근거까지: Agentic Search를 위한 검색 모델링' 세션이 편성됐다. 에이전트 기반 검색은 이용자의 질문에 따라 필요한 정보를 탐색하고, 여러 자료에서 답변에 활용할 근거를 선택하는 기술이다. 단순히 검색 결과를 나열하는 데 그치지 않고 질문의 의미와 문서의 내용을 연결하는 과정이 중요하며, 이를 위해 언어모델과 검색 시스템을 결합하는 연구가 진행되고 있다.
이러한 검색 기술의 기반 가운데 하나가 임베딩(Embedding)이다. 문장이나 문서의 의미를 숫자 벡터로 변환해 정보 사이의 관련성을 계산하는 방식으로, 의미 기반 검색과 문서 추천 등에 활용된다. 카카오는 2026년 7월 언어모델을 기반으로 개발한 'Kanana-2-Embedding'을 공개했으며, 하나의 모델에서 여러 차원의 임베딩을 활용할 수 있는 Matryoshka Representation Learning 기법도 적용했다. 이는 검색에 사용하는 벡터의 크기와 검색 성능을 함께 고려한 접근으로, 생성형 언어모델을 검색용 인코더로 전환하는 LLM2Vec 등 해외 연구와도 연결된다. 카카오가 이번 행사에서 다룰 에이전트 검색 역시 언어 이해와 정보 검색을 결합하는 기술 영역에 해당한다.
카카오톡 AI, 대화 이해에서 외부 서비스 연결로
카카오가 자체 언어모델을 개발하는 목적 가운데 하나는 카카오톡과 같은 기존 서비스에 AI 기능을 적용하는 것이다. 카카오는 올해 3월 '카나나 인 카카오톡'을 정식 출시하고, 이용자의 대화 맥락을 바탕으로 일정 브리핑과 장소·상품 추천 등 개인화된 기능을 제공해 왔다. 대화 내용을 분석해 이용자에게 필요한 정보를 먼저 제안하는 '선톡' 기능이 특징으로, 이용자가 직접 질문하지 않아도 상황에 맞는 도움을 제공하는 방식이다. 이러한 서비스를 구현하려면 개별 질문에 답하는 능력뿐 아니라 대화 흐름을 이해하고 적절한 시점에 필요한 기능을 제안하는 기술이 뒷받침돼야 한다.
이번 컨퍼런스에서는 '카카오톡 어디서든 부르는 어시스턴트 Kanana'를 비롯해 사용자 피드백을 학습 데이터에 반영하는 과정과 AI 메모리 설계 등을 소개한다. AI 메모리는 이전 상호작용에서 얻은 정보를 이후 요청에 활용해 대화와 작업의 맥락을 이어가는 기술이다. 카카오톡처럼 여러 생활 서비스와 연결되는 환경에서는 이용자의 상황을 지속적으로 이해하면서 필요한 기능을 제공하는 데 이러한 기술이 활용될 수 있다.
카카오의 AI 서비스는 대화형 기능에서 외부 시스템과 연동해 작업을 수행하는 에이전트 영역으로도 확대되고 있다. AI 에이전트는 이용자의 요청에 따라 필요한 도구를 선택하고 여러 작업을 수행하는 시스템으로, 언어모델과 실제 서비스 기능을 연결하는 기술이 필요하다. 카카오는 이를 위해 모델 문맥 프로토콜(MCP) 기반 개방형 플랫폼 'PlayMCP'와 외부 서비스를 활용하는 'Kakao Tools(카카오툴즈)'를 운영하고 있다. 지난 3월 카카오툴즈를 확대 개편하면서 올리브영, 무신사, 현대백화점, 삼쩜삼 등 다양한 분야의 파트너 서비스를 추가했으며, 6월에는 PlayMCP 기반 AI 서비스 개발 공모전도 개최했다.
이번 행사에서는 이러한 서비스 연결을 뒷받침하는 사용자 식별과 에이전트 간 통신(A2A) 구조도 다룰 예정이다. A2A는 서로 다른 AI 에이전트가 작업 정보를 교환하고 협력하기 위한 통신 방식이다. 여러 서비스를 연동하는 과정에서는 이용자의 요청을 해당 시스템에 전달하고 실행 권한을 확인하는 절차가 필요하며, AI가 수행한 작업의 결과를 다시 이용자에게 제공하는 과정도 중요하다. 카카오가 추진하는 에이전트 생태계는 이러한 기술을 바탕으로 대화형 AI의 활용 범위를 외부 서비스로 넓히는 데 초점을 두고 있다.
카카오톡 기반 AI는 공공서비스에도 적용됐다. 카카오는 올해 3월 행정안전부와 협력해 전자증명서 발급과 공공시설 예약 등을 지원하는 'AI 국민비서' 시범서비스를 출시했으며, 5월에는 음성 인터페이스와 카카오톡 대화창 내 공공시설 예약 기능을 추가했다. 이용자는 별도 앱을 설치하지 않고 카카오톡의 '국민비서 구삐' 채널에서 자연어로 필요한 업무를 요청하고, 공공시설을 탐색해 예약까지 진행할 수 있다. 이는 AI가 질문에 답하는 기능에서 나아가 실제 서비스의 업무 절차를 수행하도록 연결한 사례다.
음성·이미지 AI로 확장…멀티모달 기술도 공유
카카오는 텍스트 기반 언어모델을 넘어 음성과 이미지 등 서로 다른 형태의 정보를 함께 처리하는 멀티모달 AI를 개발하고 있다. 이번 컨퍼런스에서는 음성 언어모델 'LM-SPT'의 개발·적용 경험과 자체 비전 인코더 'Kanana Vision Encoder', 자연어로 사진을 검색하는 멀티모달 임베딩 모델을 소개할 예정이다. 각각 음성 이해와 생성, 이미지 정보의 분석, 텍스트와 이미지 사이의 의미적 연결을 다루는 기술로, 다양한 형태의 정보를 AI 서비스에 활용하는 데 초점을 맞추고 있다.
카카오는 앞서 음성·언어모델 'Kanana-a'와 이미지·언어모델 'Kanana-v'를 결합한 통합 멀티모달 모델 'Kanana-o'를 개발했다. 이 모델은 텍스트와 음성, 이미지를 함께 이해하고 텍스트나 음성으로 응답하도록 설계됐으며, 올해 2월에는 'Kanana-1.5-o-9.8b-2602' 모델의 API 베타 서비스를 공개했다. 카카오는 음성을 AI가 처리할 수 있는 정보로 변환하고 응답을 다시 음성으로 생성하는 과정에서 발화의 억양과 리듬 등 문자만으로 표현하기 어려운 정보까지 다루는 기술을 개발해 왔다. 이와 관련해 해외에서도 음성 AI 비서의 작업 수행 능력을 평가하는 연구가 진행되고 있으며, 2024년 발표된 'VoiceBench'는 다양한 음성 입력과 요청을 대상으로 모델을 평가하는 방법을 제시했다.
이미지 분야에서는 사진의 내용을 이해하는 기술과 자연어로 원하는 이미지를 검색하는 기술이 함께 다뤄진다. 비전 인코더는 이미지의 시각적 특징을 AI가 처리할 수 있는 수치 표현으로 변환하며, 멀티모달 임베딩은 이미지와 문장을 비교할 수 있는 벡터 공간에 표현해 두 정보 사이의 의미적 관련성을 계산한다. 이를 활용하면 사진에 포함된 사물이나 장면을 설명하는 문장으로 관련 이미지를 검색할 수 있다. 카카오가 이번 행사에서 소개할 비전 인코더와 멀티모달 임베딩 모델은 이미지 이해와 의미 기반 검색을 뒷받침하는 기술로, 앞서 다룬 언어모델 및 AI 검색 연구와도 연결된다.
AI 에이전트 확대에 따라 보안·데이터 관리 중요성 커져
둘째 날 행사는 '기술이 신뢰가 되는 순간'을 주제로 진행된다. AI 모델과 서비스 연결에 초점을 맞춘 첫날에 이어 에이전트의 안전성, 소프트웨어 보안, 데이터 관리와 서비스 운영 기술을 다룬다. 특히 AI가 외부 시스템에 접근하고 이용자를 대신해 작업을 수행하는 과정에서는 모델의 응답 정확도뿐 아니라 명령의 출처를 구분하고 실행 권한을 통제하는 기술이 중요하다.
대표적인 보안 위협은 프롬프트 인젝션(Prompt Injection)이다. AI 에이전트가 외부 문서나 서비스의 응답을 처리할 때 해당 데이터에 악의적인 지시가 포함되면 이용자의 원래 요청과 다른 작업을 수행하도록 유도될 수 있다. 예를 들어 검색한 문서에 특정 정보를 외부로 전송하라는 지시가 삽입돼 있다면, AI가 이를 사용자 명령으로 받아들이지 않도록 해야 한다. 이러한 공격은 외부 정보를 활용하는 AI 에이전트에서 명령과 데이터의 구분, 도구 실행 권한 관리가 중요한 이유를 보여준다.
AI 에이전트의 보안 문제는 국제 학술연구에서도 다뤄지고 있다. 2024년 국제 인공지능 학술대회 NeurIPS에 발표된 'AgentDojo' 연구는 이메일 관리, 금융서비스, 여행 예약 등 외부 도구를 사용하는 AI 에이전트를 평가하기 위해 97개 작업과 629개 보안 시험 사례를 구성했다. 연구진은 외부 도구의 응답에 공격 지시를 삽입하는 상황을 실험하고, 정상적인 작업 수행 능력과 공격에 대한 방어 성능을 함께 평가하는 방법을 제시했다. 이는 AI 에이전트의 안전성을 판단할 때 유해한 답변을 차단하는 능력뿐 아니라 실제 도구 실행 과정에서 의도하지 않은 작업을 방지하는 능력도 고려해야 한다는 연구다.
카카오는 이번 행사에서 에이전트의 안전한 운영과 소스코드 보안, 데이터 거버넌스에 관한 기술을 소개할 예정이다. 지난해 인공지능안전연구소와 자체 언어모델 'Kanana-1.5-9.8B'의 공동 안전성 평가를 진행한 데 이어, 올해 9월에는 AI 모델과 에이전트의 안전성 평가체계 구축 및 평가도구 개발을 위한 업무협약을 체결했다. 기존 언어모델의 안전성 평가에서 외부 도구를 활용하는 에이전트까지 협력 범위를 넓히는 것으로, 이번 컨퍼런스의 보안·신뢰성 관련 발표와도 연결된다.
AI 서비스의 안정적인 운영을 위한 인프라 기술도 주요 발표 분야다. 카카오는 클라우드 자원의 비용과 활용 효율을 관리하는 FinOps, 이용자가 경험하는 서비스 품질을 목표로 설정하고 측정하는 서비스 수준 목표(SLO), 여러 데이터 시스템을 연결하는 데이터 메시(Data Mesh)와 의미정보 계층 등을 소개한다. AI 모델이 외부 서비스를 호출하고 다양한 데이터를 활용하는 환경에서는 시스템의 안정성과 데이터의 일관성, 운영비용을 함께 관리해야 한다. 이번 행사에서는 이러한 기술을 통해 AI 모델의 개발뿐 아니라 실제 서비스를 지속적으로 운영하는 데 필요한 기반도 다룰 예정이다.
자체 모델 개발부터 서비스 운영까지 기술 공유
카카오는 2025년 개발자 컨퍼런스에서 카카오톡 중심의 AI 전략을 제시한 이후 Kanana 모델군과 경량모델을 공개하고, 카카오톡 AI 서비스와 외부 개발자 도구, 공공서비스 연계를 추진해 왔다. 올해 컨퍼런스에서는 이러한 개발 성과를 바탕으로 모델 학습과 추론 최적화부터 검색·에이전트 연결, 멀티모달 AI, 보안과 데이터 관리에 이르기까지 실제 서비스 개발과 운영 과정에서 축적한 기술을 공유한다.
이번 행사는 자체 언어모델 개발과 실제 서비스 운영에 필요한 다양한 기술을 함께 다룬다는 점이 특징이다. 카카오는 모델의 성능과 연산 효율뿐 아니라 이용자와의 상호작용, 외부 서비스 연동, 시스템의 안정성과 보안 등을 주요 발표 주제로 구성했다.
행사 첫날은 AI 모델과 서비스 연결을, 둘째 날은 보안·데이터·운영 기술을 중심으로 진행된다. 주요 기조연설과 기술 세션은 온라인으로도 중계될 예정이며, 세부 발표 일정과 세션별 내용은 공식 홈페이지(if.kakao.com/2026)에서 살펴볼 수 있다.
출처: 카카오, if(kakao)26 공식 홈페이지 및 프로그램 · 카카오 기술블로그, Kanana SLM 개발 기술문서 · Kanana LLM Team, Kanana: Compute-efficient Bilingual Language Models, arXiv(2025) · 카카오, Kanana-2 공식 모델 저장소 · KMMLU, NAACL 2025 · NVIDIA 연구진, Minitron 모델 압축 연구 · LLM2Vec(2024) · AgentDojo(2024) · VoiceBench(2024) · 카카오, 공식 AI 기술·서비스 소개
댓글
0