에이전트, 효율은 높이고 비용은 낮추다

AI는 그 어느 때보다 빠르게 발전하고 있습니다. 지난 한 달 동안만 해도 Anthropic, OpenAI, 오픈 웨이트 모델 제공업체들과의 협력을 통해 7개의 새로운 모델이 추가되었습니다. Notion 에이전트가 한 작업을 연속으로 수행할 수 있는 시간은 기존 5분에서 24시간 이상으로 늘어났습니다. 올여름 초에는 수십 개 정도였던 연동 대상도 이제 수백 개로 늘어나, 에이전트가 MCP와 커넥터를 통해 더 다양한 도구를 활용할 수 있게 되었습니다.

여러분이 여러분만의 에이전트를 위한 인프라로 Notion을 점점 더 많이 활용하고 있다는 점도 분명해졌습니다. 저희의 역할은 특정 모델에 구애받지 않고, 어떤 모델 제공업체의 모델과도 함께 사용할 수 있는 최고의 컨텍스트 레이어를 제공하는 것입니다.

그래서 오늘 저희는 Notion AI를 더 강력하고 안정적이며 효율적으로 만들기 위한 여러 가지 개선 사항과 이러한 개선 사항을 중심으로 설계한 통합 크레딧 시스템을 공개합니다.

모델이 너무 많아 어떤 것을 선택해야 할지 막막할 때가 있습니다. 비용이 높은 모델이 보편적인 요청 처리에 기본적으로 사용되는 경우도 많습니다. Auto는 모델을 대신 선택해 주는 모델 라우터입니다. 각 작업을 분석해 품질, 속도, 비용을 두루 고려했을 때 가장 적합한 모델로 작업을 전달합니다.

20개 이상의 일반적인 사용 사례에서, Auto는 Opus 5.5 및 Astra와 비슷한 결과를 제공하면서도 평균 비용은 약 90% 낮았습니다. 즉, 크레딧을 약 10배 더 효율적으로 사용할 수 있다는 의미입니다.

Auto는 간단한 요청을 빠르고 효율적인 모델을 선택합니다. 분석이나 다단계 에이전트 실행처럼 더 오래 걸리고 복잡한 작업은 성능이 더 뛰어난 모델로 전달합니다. 모델 사용 중 작업이 별다른 진척을 보이지 않는 경우, Auto는 다른 모델로 전환해 문제를 해결해 나갑니다.

더 나은 모델이 거의 매주 출시되는 가운데, 저희는 새로운 모델이 나올 때마다 평가합니다. 덕분에 사용자가 최신 모델 출시 소식을 일일이 확인하지 않아도 Auto는 사용자가 승인한 제공업체의 모델을 곧바로 활용할 수 있습니다. 저희는 실제 지식 업무를 바탕으로 Auto를 지속적으로 개선하며, 크레딧 소비는 최소화하면서 최고의 결과를 가장 빠르게 얻는 것을 목표로 합니다.

Notion 지식 보드에서 일상적인 지식 업무를 기준으로 모델별 성능을 비교해 보고, Auto의 작동 방식도 자세히 알아보세요.

Notion 에이전트의 하네스를 또다시 구축했습니다. 이제 6세대입니다. AI를 만드는 팀에게 휴식은 사치죠.

AI 및 핵심 제품 부문을 이끄는 Shir는 지난주 팀 미팅에서 새 버전을 이렇게 설명했습니다. “크레딧을 너무 빨리 소진하지 않으면서 장시간 이어지는 실행 흐름을 지원하려면, 효율성을 크게 개선하는 일이 뒷받침되어야 한다는 것을 알고 있었습니다.”

그렇다면 내부적으로 어떤 점이 달라졌을까요? 미리 말씀드리자면, Shir도 “내용이 조금 기술적일 수 있습니다.”라고 말했습니다.

그 결과, 에이전트가 시작한 작업을 더 많이 완료하게 되었고(현재 인프라 가동률은 99.9%를 넘습니다), 테스트에서는 커스텀 에이전트 실행 비용이 약 30% 절감되었습니다.

AI 비용을 이중으로 지불할 필요는 없습니다. 이미 이용 중인 AI를 Notion에서도 활용할 수 있는 몇 가지 방법을 소개합니다.

첫째, 이제 Notion에서도 ChatGPT 구독을 이용할 수 있습니다. OpenAI와의 긴밀한 협력을 통해 ChatGPT Plus, Pro 또는 Go 구독을 Notion에서도 활용할 수 있게 되었습니다. 이 기능은 현재 개인 Notion 에이전트에서 사용할 수 있으며, 커스텀 에이전트에서는 지원되지 않습니다. 앞으로 더 많은 요금제와 제품 환경으로 지원 범위를 확대할 예정입니다. 여기에서 자세히 알아보기 →

또 다른 반가운 소식은 엔터프라이즈 요금제 고객을 대상으로 BYOK(Bring Your Own Key) 기능의 알파 버전을 제공하게 되었다는 것입니다. 모델 제공업체의 키를 직접 사용하는 방식은 최근 고객들이 많이 요청해 온 사항입니다. 알파 버전 이용에 관해서는 고객사 담당팀에 문의해 주세요.

마지막으로, Notion MCP가 전면 개편되었습니다. 이제 ChatGPT, Claude, Grokbot, Muse와 같이 즐겨 사용하는 에이전트를 Notion에 연결해, Notion을 공통 지식 기반으로 활용할 수 있습니다. 에이전트는 Notion에서 필요한 맥락을 파악하고 중요한 내용을 기억하며 공유 가능한 결과물을 만들 수 있습니다. MCP는 Notion 역사상 가장 빠르게 성장 중인 제품으로, 고객들의 높은 호응에 힘입어 더 많은 투자를 진행했습니다. 이제 메모리를 Notion에 동기화할 수 있으며, MCP를 통한 스킬 기능도 곧 제공될 예정입니다. 이미 MCP를 사용 중이거나 이제 막 시작한 고객 모두 이 프롬프트를 에이전트와 공유해 MCP의 성능을 제대로 경험해 보시기를 바랍니다.

관리자는 현재 어떤 작업이 실행 중인지, 각 항목을 누가 담당하는지, 전체 비용이 얼마인지 파악해야 합니다. 곧 이 모든 정보를 한곳에서 확인하고 관리할 수 있는 새로운 AI 통합 관리 센터가 제공될 예정입니다. 기존에 여러 곳에 흩어져 있던 기능을 한곳으로 통합해 관리 현황을 더 명확하게 파악하고 직접 제어할 수 있도록 지원합니다.

관리자는 멤버, 기능, 에이전트별 크레딧 사용량을 한 장소에서 확인하고 워크스페이스의 크레딧 사용량이 한도에 가까워지면 알림을 받을 수 있습니다. 또한 멤버와 에이전트의 사용 한도를 설정하거나 멤버가 사용할 수 있는 모델을 선택하고, 누가 커스텀 에이전트 생성·일시정지·보관할 수 있는지 제어할 수 있습니다. 멤버는 기본 제공 크레딧을 얼마나 사용했는지, 각 에이전트가 크레딧을 얼마나 사용하는지 확인할 수 있습니다.

이제 에이전트로 더 많은 일을 하고 Notion 에이전트, 커스텀 에이전트, 다양한 외부 AI 도구도 한곳에서 함께 활용할 수 있습니다. 이에 따라 크레딧 시스템도 하나로 통합됩니다. 작동 방식은 다음과 같습니다.

1. 좌석당 매월 두 종류의 크레딧이 제공됩니다. 비즈니스·엔터프라이즈 좌석에는 Notion이 모델을 선택하는 작업에 사용할 수 있는 Standard 크레딧이 월 1,500, 사용자가 직접 모델을 선택하거나 커스텀 에이전트를 실행하는 데 사용할 수 있는 Select 크레딧이 월 500 제공됩니다.

2. 관리자는 워크스페이스에 사용할 추가 크레딧을 구매하고 크레딧을 어떻게 배분할지도 자유롭게 설정할 수 있습니다. 추가 크레딧은 워크스페이스에 공유된 커스텀 에이전트와 크레딧을 많이 사용하는 모델(예: Fable, Astra)에 사용할 수 있으며, 기본 제공 크레딧을 초과하는 사용분도 충당할 수 있습니다.

3. 매월 기본 제공되는 Select 크레딧으로 추가 비용 없이 커스텀 에이전트를 먼저 사용해 보세요.

업그레이드된 모델 라우터로 이전보다 훨씬 효율적으로 크레딧을 사용할 수 있게 되었습니다. 추산에 따르면 대다수 사용자는 작업 중 크레딧이 부족해지는 일 없이 사용할 수 있을 것으로 예상됩니다.

새로운 시스템은 오늘부터 신규 고객에게 적용됩니다. 기존 고객은 11월 2일부터 새로운 시스템으로 전환되며, 관리자에게는 자세한 내용이 담긴 이메일이 발송됩니다. 새로운 크레딧 시스템 자세히 알아보기 →

저희도 AI 시대를 완전히 이해하고 있는 것은 아닙니다. 저희가 할 수 있는 일은 AI 운영 효율을 계속 높이고, 모델 선택의 폭을 넓혀 가며, 무엇이 바뀌는지와 그 이유를 계속 솔직하게 알려드리는 것입니다.

이번 게시물에서 소개한 개선 사항 중 상당수는 여러분의 피드백 덕분에 이루어질 수 있었습니다. Notion을 만들어 가는 데 함께해 주셔서 감사합니다.

—Akshay Kothari