'회사 안의 구글'을 만든 남자 — 우리 회사의 지식은 어디에 잠들어 있을까

OPUS CLUB · 비즈니스 인사이트 · 2026-09-04 발행

핵심 요약: 실리콘밸리에서 ‘엔터프라이즈 검색’은 오랫동안 ‘기업들의 무덤’이라 불렸습니다. 구글조차 제대로 못 푼 이 시장에 2019년 뛰어든 글린(Glean)은 6년 만에 기업가치 72억 달러(약 10조 원)의 유니콘이 됐습니다. 삼성·부킹닷컴·에어비앤비가 쓰는 이 ‘업무용 AI 플랫폼’이 무엇을 팔았는지 — 사용 기업, 실제 도입 효과, 독보적 기능, 보안 구조, 그리고 챗GPT보다 3년 빠른 회사가 어떻게 두 번의 파도를 기회로 바꿨는지까지 짚었습니다.

실리콘밸리 투자자들은 오랫동안 ‘엔터프라이즈 검색(사내 정보 검색)’ 시장을 ‘기업들의 무덤(graveyard)’이라 불렀습니다. 수많은 회사가 도전했다 번번이 무너졌고, 구글조차 회사 안의 검색만큼은 제대로 풀지 못했기 때문입니다. 그런데 2019년 이 무덤에 뛰어든 한 회사가 6년 만에 기업가치 72억 달러(약 10조 원)의 유니콘이 됐습니다. 삼성·부킹닷컴·에어비앤비가 쓰는 ‘업무용 AI 플랫폼’ 글린(Glean)입니다. 무엇이 달랐을까요.

오래전 HP를 이끈 한 경영자는, 회사 안에 쌓인 지식을 제대로 이어 쓰기만 해도 생산성이 몇 배로 뛴다고 말한 적이 있습니다. 기업은 방대한 데이터를 쌓아두고도, 정작 직원들은 필요한 순간에 그걸 못 찾습니다. 글린의 창업자 아르빈드 제인(Arvind Jain)은 이 역설을 몸으로 겪은 사람입니다.

그는 2003년 구글에 들어가 10년 넘게 핵심 검색(Core Search)과 유튜브 엔지니어링을 이끈 최고 등급 엔지니어(Distinguished Engineer)였습니다. 전 세계 인터넷을 눈 깜짝할 새 뒤지는 시스템을 만든 사람이죠. 그런데 이후 공동 창업한 데이터 기업 루브릭(Rubrik)에서 이상한 벽에 부딪힙니다. 세상에서 검색을 제일 잘 만든 자신이, 정작 ‘회사 안’에서는 필요한 자료 하나 못 찾고 있었던 겁니다.

직원들에게 물어보니 가장 큰 불만은 뜻밖에 단순했습니다. 필요한 정보를 도무지 찾을 수가 없다는 것. 자료가 구글 드라이브·슬랙·세일즈포스·지라 등 수십 개 시스템에 조각조각 흩어져 있었기 때문입니다.

몇 초면 끝날 일을 열 군데 넘게 뒤지거나 동료를 붙잡고 물어야 하는 상황. 제인은 여기서 근본적인 문제의식을 느꼈고, ‘일터를 위한 구글(Google for Work)’을 만들기로 합니다. 그는 구글·마이크로소프트·페이스북 출신 최고 엔지니어들(프라할라드카·젠틸코어·비슈와나스)과 2019년 초 글린을 세웠고, 슬랙에 초기 투자했던 클라이너 퍼킨스의 마문 하미드가 곧바로 1500만 달러 규모 시리즈 A를 이끌었습니다.

① 누가 글린을 쓰나 — 삼성부터 에어비앤비까지

글린의 고객은 특정 업종에 갇혀 있지 않습니다. 전사에 데이터가 흩어지는 문제를 겪는 대형 글로벌 기업이 주 고객입니다. 공개된 도입 사례를 산업별로 추리면 대략 이렇습니다.

• 테크·IT: 삼성, 인튜이트(Intuit), 링크드인(LinkedIn), 루브릭(Rubrik), 데이터브릭스(Databricks), 컨플루언트(Confluent), 재피어(Zapier) 등. 구글 검색 엔지니어들이 만든 회사인 만큼 기술 기업의 도입이 특히 활발합니다.
• 이커머스·여행: 이베이(eBay), 부킹닷컴(Booking.com), 질로우(Zillow).
• 미디어·엔터: 100년 넘는 기사 아카이브를 가진 타임(TIME), 핀터레스트(Pinterest), 컴캐스트(Comcast).
• 금융·통신: 싱가포르 최대 은행 DBS, 필리핀 최대 모바일 지갑 지캐시(GCash), 통신장비 기업 에릭슨(Ericsson).

여기에 에어비앤비(Airbnb)·레딧(Reddit)·듀오링고 같은 이름들이 더해집니다. 눈여겨볼 대목은 규정이 까다로운 금융·헬스케어까지 고객이라는 점입니다. 뒤에서 볼 ‘권한을 아는(permission-aware)’ 설계가 있었기에 가능한 일이었습니다.

② 실제로 무엇이 달라졌나 — 도입 효과와 사용 사례

글린이 파는 것은 ‘검색창’이 아니라 눈으로 확인되는 성과입니다. 잘 알려진 도입 효과부터 보겠습니다.

• 부킹닷컴: 전 세계 임직원 1만 4000명이 쓰는 사내 첫 공식 AI 플랫폼으로 선정됐습니다. 영상 스크립트 제작 기간을 8주에서 2주로 줄였고, 사내 IT 지원 티켓 처리를 거의 즉시 수준으로 단축했습니다.
• DBS 은행: 임직원 4만 명 이상이 사용하며, 인사·고객지원 부서의 문서 탐색 시간을 크게 줄였습니다. 그 결과 직원 근무시간의 최대 10%를 더 가치 있는 업무로 돌릴 수 있게 됐습니다.
• 타임(TIME): 100년 넘는 기사와 데이터를 색인화해, 편집팀이 빠르게 자료를 조사·요약하고 영업팀의 제안서 초안 작성을 자동화했습니다.
• 컨플루언트: 도입 뒤 월평균 1만 5000시간 넘는 업무 시간을 아꼈고, 고객지원팀 만족도를 13% 끌어올렸습니다.

여기서 한 발 더 나아간 것이 ‘에이전트’입니다. 이제 글린은 묻기 전에 알아서 움직입니다. 영업 현장을 보면, 글린 에이전트는 통화 내용을 분석해 고객이 구매에 적극적이라는 신호가 잡히면 세일즈포스에 잠재 기회를 자동으로 갱신합니다. 원래는 담당자가 통화가 끝날 때마다 십수 분씩 메모를 정리해 직접 입력해야 했던 일이죠. 통화 분석 도구 공(Gong)의 녹취록과 슬랙·이메일·내부 문서를 서로 대조해, 흩어진 정보를 나열하는 데 그치지 않고 실제 영업 상황의 맥락을 읽어냅니다. 가령 담당자가 “이번 주에 계약이 마무리된다”고 입력해도, 글린은 법무팀 서명이 아직 안 됐고 과거 데이터상 서명까지 평균 8일이 걸린다는 사실을 근거로 “이번 주 마무리는 어렵다”는 위험 신호를 짚어냅니다. 리더가 팀과 사업, 목표를 바라보는 통찰의 밀도를 한 단계 끌어올려 준다는 것이 회사 측 설명입니다.

마케팅에서는 모든 영업 통화가 담긴 데이터베이스를 마케팅팀이 직접 들여다봅니다. 매주 새로 등장하는 고객 질문을 자동으로 짚어 주니, 검색 노출(SEO) 전략과 공략 키워드를 빠르게 조정할 수 있습니다. 인사(HR)에서는 에어비앤비가 앞서 나갑니다. 복지·정책 문의에 답하는 것을 넘어, 직원 성과를 검토·코칭하는 실험까지 진행 중입니다. 관리자는 아무래도 최근 성과를 더 또렷이 기억하는 편향이 있는데, 에이전트를 쓰면 그런 치우침을 걷어낸 객관적 피드백이 가능하다는 것이 글린의 논리입니다.

③ 무엇이 특별한가 — 글린의 5가지 기술 해자

챗GPT 이후 수많은 기업이 사내 AI를 시도했지만 이내 벽에 부딪혔습니다. 거대언어모델(LLM)은 세상에 공개된 지식은 잘 알아도, 우리 회사의 인사 규정이나 최신 제품 매뉴얼 같은 비공개 데이터는 전혀 모르기 때문입니다. 이를 이으려면 흩어진 사내 데이터를 안전하게 긁어모아 AI가 쓸 수 있게 만드는 지루한 ‘배관 공사’가 필요한데, 글린은 이 공사를 이미 끝내 둔 상태였습니다. 경쟁사가 단기간에 흉내 내기 어려운 글린의 해자는 다섯 가지입니다.

• 100여 개 SaaS를 잇는 ‘턴키’ 통합. 보통은 여러 시스템에서 데이터를 뽑아 정제(ETL)하고 파이프라인·검색 인덱스·권한 체계를 설계하는 데 수주에서 수개월이 걸립니다. 글린은 관리자가 콘솔에서 버튼 몇 번으로 권한만 열어 주면 짧게는 하루, 길어야 일주일 안에 통합을 끝냅니다.
• 특정 벤더에 묶이지 않는 모델 중립 구조. 오픈AI·구글·앤트로픽 등 여러 LLM을 상황에 맞게 골라 씁니다. 젠틸코어 공동창업자는 특정 생태계에 종속되지 않고 기업이 스스로 도구와 방향을 정할 수 있게 하는 것이 글린이 내세우는 핵심 가치라고 설명합니다.
• 사내 지식 그래프(Enterprise Knowledge Graph). 구글 웹 검색은 수십억 건의 클릭으로 학습하지만, 사내에는 그만한 데이터가 없습니다. 대신 글린은 사람·활동·문서의 관계를 촘촘히 엮어 ‘맥락’을 이해합니다. 신입이 ‘온보딩 가이드’를 검색하면, 그가 마케팅팀인지 엔지니어링팀인지까지 파악해 맞는 문서를 먼저 꺼내 줍니다.
• 철저한 권한 관리. 원본 시스템의 접근 권한을 그대로 물려받아, 볼 자격이 있는 사람에게만 정보가 보이게 합니다. (자세한 구조는 다음 장에서.)
• RAG로 환각을 막는 구조. 일반 생성형 AI가 기억에 의존해 답하는 ‘클로즈드북 시험’이라면, 글린은 질문이 들어올 때마다 실제 회사 문서를 다시 찾아본 뒤 답하는 ‘오픈북 시험’에 가깝습니다. 모든 답변에는 근거가 된 원문 출처가 함께 붙습니다.

현재 글린 플랫폼은 세 개의 축으로 짜여 있습니다. 흩어진 정보를 찾는 글린 서치(Search), 그 정보를 RAG로 종합해 답을 만드는 글린 어시스턴트(Assistant), 그리고 여러 단계의 업무를 대신 실행하는 글린 에이전트(Agents)입니다. 질문에 반응하기만 하던 ‘반응형 도구’에서, 먼저 챙겨 주는 ‘선제형 에이전트’로 옮겨 간 셈입니다.

④ 가장 예민한 지점 — 보안과 권한

기업이 사내 AI를 들일 때 가장 겁내는 지점이 바로 권한과 보안입니다. 인턴이 검색 한 번으로 대표의 연봉이나 기밀 인수합병(M&A) 문서를 보게 된다면 회사가 발칵 뒤집힙니다. 글린은 이를 ‘원본 시스템의 권한을 진실의 근거로 삼는(source-of-truth permissions)’ 구조로 풀었습니다.

슬랙·구글 드라이브·세일즈포스에서 이미 설정된 접근 권한이 글린 안에서도 똑같이 적용됩니다. 어떤 문서가 엔지니어링 리더십 그룹에만 공유돼 있다면, 그 그룹에 속한 사람만 글린의 검색 결과나 답변에서 그 문서를 만날 수 있습니다. 누군가 그 그룹에서 빠지면 권한이 동기화되면서 글린에서도 접근이 자동으로 사라집니다. 비공개 채널·다이렉트 메시지(DM)·개인 메시지도 기본적으로 닫힌 상태를 유지하고, 명시적으로 권한이 있는 사람에게만 보입니다.

이 ‘권한을 아는’ 설계 덕분에 금융·헬스케어처럼 규제가 깐깐한 곳도 마음 놓고 전사로 확장합니다. 그리고 이것이야말로 글린의 진짜 해자였습니다. 챗GPT가 나온 뒤 대다수 기업이 환각·데이터 유출·권한 위반이라는 세 가지 리스크를 이유로 도입을 미룰 때, 글린은 이미 그 문제를 풀 인프라를 수년째 깔아 두고 있었기 때문입니다. 경쟁사에게는 리스크였던 것이 글린에게는 곧 제품의 존재 이유가 됐습니다.

⑤ 글린은 어떻게 시류에 올라탔나 — 성공 전략

스타트업의 성공기는 대개 결과에서 거꾸로 읽힙니다. 성공했으니 전략이 옳았다는 식이죠. 하지만 정작 중요한 질문은 따로 있습니다. 같은 시장에서 같은 파도를 맞고도, 왜 어떤 회사는 휩쓸려 가라앉고 어떤 회사는 그 파도를 타고 더 높이 올라가는가. 글린은 챗GPT 이후에 태어난 ‘AI 네이티브’가 아닙니다. 팬데믹도 챗GPT도 오기 전인 2019년에 문을 연 회사입니다. 그런데도 팬데믹과 생성형 AI라는 두 번의 거대한 전환을 위기가 아닌 도약대로 삼았습니다. 그 비결은 세 가지로 정리됩니다.

하나. 문제를 제대로 정의한 회사는 시류에 흔들리지 않는다

글린이 붙든 문제는 하나였습니다. 지식이 수십 개 도구에 흩어져 정작 필요할 때 못 찾는 ‘SaaS 스프롤(SaaS Sprawl)’. 생성형 AI 기능이 전혀 없던 2021년 9월에 이미 40여 곳의 고객과 5500만 달러의 자금을 확보했고, 챗GPT가 나오기 반년 전인 2022년 5월에는 세쿼이아캐피털이 이끄는 라운드로 유니콘 반열에 올랐습니다. 당시에도 이미 연간 700만 건의 검색을 처리하며 사용자 만족도 85%를 기록하고 있었습니다. 대화형 AI가 등장하기도 전에 검색 제품 하나로 이 성과를 냈다는 것은, 글린이 시류를 좇은 게 아니라 근본 문제를 집요하게 붙들고 있었다는 뜻입니다. 그래서 파도가 밀려왔을 때 그 파도를 자기 속도로 활용할 수 있었습니다.

둘. 위기의 순간엔, 준비된 자만이 빠르게 움직인다

챗GPT가 공개되자 시장의 반응은 뚜렷이 갈렸습니다. 대다수 기업은 환각·데이터 유출·권한 위반이라는 세 리스크를 이유로 ‘신중한 관망’을 택했습니다. 문제는 그 신중함이 리스크 관리가 아니라 사실상 ‘실행 회피’로 굳어졌다는 점입니다. 반면 글린은 공개 며칠 만에 가상의 상황실을 열고, 미국 팔로알토와 인도 벵갈루루 인력 15명 남짓으로 ‘타이거 팀’을 꾸려 시차를 이용한 24시간 개발에 들어갔습니다. 빅테크가 쓰는 긴급 대응 방식(코드 옐로)까지 도입했죠. 그렇게 챗GPT 등장 약 6개월 만인 2023년 6월, 대화형 솔루션 ‘글린 챗(Glean Chat)’을 내놨습니다. 이 속도는 창업 후 4년간 권한 체계·실시간 인덱싱·개인화 로직을 제품의 뼈대로 쌓아 온 덕분이었습니다. 남들이 “어떻게 안전하게 만들지”를 그제야 고민하기 시작할 때, 글린은 그 인프라를 이미 갖춰 두고 있었습니다.

셋. 기회가 왔을 때, 과감히 실행으로 옮긴다

제품을 내놓는 것과 파도 위에 완전히 올라타는 것은 다른 차원의 일입니다. 글린은 2024년 6월 ‘앱스 앤 APIs(Apps & APIs)’를 내놓으며 검색·어시스턴트 제품을 아예 ‘플랫폼’으로 전환했습니다. 고객이 자사 업무에 맞는 AI 앱과 에이전트를 직접 만들 수 있게 해, 이른바 바이브 코딩(Vibe Coding) 흐름에 선제적으로 올라탄 것입니다. 석 달 뒤인 9월에는 기업가치 46억 달러의 시리즈 E와 함께 “복잡한 업무 흐름을 프롬프트 없이도 자동화하겠다”는 방향을 전면에 내걸었습니다. 제인 CEO는 앞으로 AI 도입의 잣대가 막연한 ‘생산성’이 아니라 숫자로 잴 수 있는 ‘사업 성과’가 될 것이라고 봅니다. 대표(CIO)와 재무 책임자(CFO)가 예산을 승인할 수 있는 언어, 즉 매출·효율·만족도 같은 지표로 AI를 설명하기 시작했다는 뜻입니다. 실제로 글린의 연 매출(ARR)은 1억 달러를 넘긴 지 9개월 만에 2억 달러로 두 배가 됐습니다.

이 세 가지를 떠받친 것은 조직 차원의 전략이었습니다. 특정 부서만을 위한 수직형 솔루션 대신 엔지니어링부터 마케팅·인사·영업까지 아우르는 ‘수평적 에이전트 플랫폼’을 지향했고, 추상적인 ‘AI의 가치’ 대신 고객별 데이터로 투자 대비 효과(ROI)를 숫자로 입증했으며, AI 활용을 리더십 평가 지표에 직접 연결하고 직원이 매일 제 제품을 쓰며 고쳐 나가는 ‘도그푸딩(Dogfooding)’ 문화를 심었습니다.

물론 앞길에 과제도 많습니다. 마이크로소프트 코파일럿, 구글 워크스페이스 AI가 같은 시장에 막대한 자원을 붓고 있고, 클로드 코워크나 퍼플렉시티 컴퓨터처럼 에이전트가 파일과 시스템에 직접 접근하는 차세대 도구도 등장했습니다. ‘여러 도구를 잇는 통합 레이어’라는 글린의 가치가 에이전트 시대에도 유효한가 — 이것이 글린이 답해야 할 질문입니다. 흥미롭게도 글린은 아시아의 다음 목표 시장으로 한국을 정하고, 한국어 성능 강화와 현지 파트너 발굴에 이미 시동을 걸었습니다.

그러나 분명한 사실이 하나 있습니다. AI 전환기에 도약한 회사와 주저앉은 회사를 가른 것은 기술력의 우열이 아니었다는 점입니다. 풀어야 할 문제를 얼마나 오래, 얼마나 또렷하게 붙들고 있었는지, 그리고 결정적 순간에 얼마나 빨리 실행으로 옮겼는지가 승부를 갈랐습니다. 기술의 파도는 준비된 회사와 그렇지 못한 회사를 가리지 않고 들이닥칩니다. 다만 그 파도를 위기가 아니라 기회로 알아보는 눈만큼은, 파도가 오기 훨씬 전부터 한 방향을 응시하고 있던 회사에게만 주어집니다.

📌 승부를 가른 건 기술의 우열이 아니라, 문제를 얼마나 오래 붙들었고 결정적 순간에 얼마나 빨리 움직였는가였습니다.