비싼 AI 사용료에 등 돌린 미국 기업들…AT&T가 비용 80% 낮춘 방법

오픈소스 AI의 거대한 파도가 밀려오는 이유

최근 인공지능 세계에서 가장 뜨거운 화두는 단연 오픈소스 AI의 급성장입니다. 과거에는 대기업이나 막대한 자본을 가진 기관만이 거대 언어 모델을 만들 수 있었지만, 이제는 판도가 완전히 바뀌었습니다. 오픈소스 AI는 누구나 자유롭게 가져다 쓰고 수정할 수 있는 인공지능 모델을 의미합니다. 마치 스마트폰 세상에서 안드로이드 운영체제가 다양한 제조사의 기기에 탑재되어 생태계를 넓힌 것과 비슷한 맥락입니다.

이러한 변화의 중심에는 통신 거대 기업인 AT&T의 파격적인 행보가 있습니다. AT&T는 내부 업무와 서비스 전반에서 오픈소스 인공지능의 비중을 기존 20퍼센트에서 40퍼센트로 단숨에 두 배 이상 끌어올렸습니다. 그 결과 인공지능 도입과 운영에 드는 비용을 최대 80퍼센트까지 줄이는 놀라운 성과를 거두었습니다. 챗GPT나 클로드 같은 상용 폐쇄형 인공지능 서비스를 그대로 갖다 쓰면 비용이 눈덩이처럼 불어나지만, 오픈소스 모델을 가져와 자사 환경에 맞게 최적화하면 비용을 극적으로 아낄 수 있음을 증명한 것입니다.

여기에 하드웨어의 강자 엔비디아가 거액을 투자해 인공지능 개발자들의 놀이터인 허깅페이스를 인수하려는 움직임은 오픈소스 모델의 확산에 쐐기를 박고 있습니다. 전 세계의 수많은 개발자와 기업들이 오픈소스 모델을 공유하고 발전시키는 플랫폼이 더욱 탄탄해지고 있는 셈입니다. 하지만 이러한 흐름 속에서 미국 기업들은 중국의 강력한 오픈소스 모델들이 맹추격해 오는 상황을 마주하며 깊은 고민에 빠져 있습니다. 비용을 아끼고 기술 주도권을 쥐기 위해 오픈소스를 선택해야 하지만, 보안과 지식재산권 문제 등 넘어야 할 산도 많기 때문입니다.

일상과 업무에서 오픈소스 AI를 똑똑하게 활용하는 방법

일반 대중이나 중소기업 입장에서 이러한 거대한 기술 변화는 그림의 떡처럼 느껴질 수 있습니다. 하지만 조금만 눈여겨보면 우리 삶과 일에 곧바로 적용할 수 있는 실용적인 방법들이 많습니다. 상용 인공지능 서비스의 비싼 구독료가 부담스러웠다면 오픈소스 기반의 인공지능 도구들이 훌륭한 대안이 됩니다.

첫째로 문서 작성이나 아이디어 회의 같은 일상적인 업무에 오픈소스 기반의 챗봇 서비스를 활용할 수 있습니다. 예를 들어 메타가 공개한 라마 시리즈 같은 유명 오픈소스 모델을 기반으로 만들어진 무료 웹 서비스들을 이용하면, 개인정보 유출 염려를 조금은 덜면서도 뛰어난 성능의 인공지능 비서를 얻을 수 있습니다. 기업의 경우 민감한 고객 데이터를 클라우드에 올리지 않고 사내 서버에 오픈소스 모델을 설치해 안전하게 AI 비서를 구동하는 방식이 인기를 끌고 있습니다.

둘째로 프로그래밍이나 데이터 분석 작업에서 비용을 대폭 절감할 수 있습니다. 개발자들은 허깅페이스 같은 플랫폼에서 무료로 제공되는 다양한 사전 학습 모델을 다운로드 받아 자신만의 특화된 프로그램을 만들 수 있습니다. 처음부터 코드를 짜거나 비싼 유료 API를 호출할 필요가 없어 프로젝트 예산을 획기적으로 아낄 수 있습니다.

오픈소스 AI를 도입할 때 알아두어야 할 핵심 팁

오픈소스 인공지능이 무조건 좋다고 해서 덮어놓고 도입하면 낭패를 보기 쉽습니다. 성공적으로 활용하기 위해서는 몇 가지 현실적인 조언과 팁을 기억하는 것이 좋습니다.

• 목적에 맞는 모델 크기 선택하기: 무조건 성능이 가장 좋은 거대한 모델을 고를 필요가 없습니다. 단순한 텍스트 요약이나 번역이라면 가벼운 경량 모델로도 충분하며, 컴퓨터 자원을 훨씬 적게 소모합니다.

• 커뮤니티와 생태계 활용하기: 허깅페이스나 깃허브 같은 개발자 커뮤니티에는 먼저 모델을 써본 사람들의 생생한 후기와 최적화 가이드가 넘쳐납니다. 이를 참고하면 시행착오를 크게 줄일 수 있습니다.
• 라이선스 조항 꼼꼼히 살피기: 오픈소스라고 해서 상업적 이용까지 무조건 무료인 것은 아닙니다. 기업에서 쓸 때는 저작권이나 라이선스 조건에 비즈니스 활용이 허용되는지 반드시 확인해야 합니다.
• 하드웨어 사양 점검하기: 내 컴퓨터나 자체 서버에서 모델을 직접 돌리려면 그래픽카드의 성능이 중요합니다. 클라우드 서비스를 빌려 쓰는 것이 나을지, 자체 장비를 살지 비용을 미리 계산해봐야 합니다.

오픈소스 AI와 폐쇄형 AI의 특성 비교

인공지능을 도입하려는 사람들은 종종 오픈소스 모델과 챗GPT 같은 폐쇄형 모델 사이에서 고민에 빠집니다. 각각의 특성을 정확히 이해하면 나에게 맞는 선택을 하는 데 큰 도움이 됩니다.

폐쇄형 상용 AI의 특징

오픈AI나 앤트로픽 같은 기업이 제공하는 서비스는 가입만 하면 곧바로 최고 수준의 성능을 누릴 수 있다는 장점이 있습니다. 별도의 설치나 복잡한 설정 과정이 필요 없어 누구나 쉽게 접근할 수 있습니다. 하지만 이용량이 늘어날수록 비용이 기하급수적으로 증가하며, 기업의 내부 데이터를 학습시키는 데 한계가 있고 데이터 통제권을 온전히 갖기 어렵다는 단점이 있습니다.

오픈소스 AI의 특징

소스 코드가 공개되어 있어 누구나 입맛에 맞게 수정하고 개선할 수 있습니다. AT&T의 사례처럼 초기 세팅 비용과 맞춤화 과정을 거치고 나면 장기적으로 유지비를 극적으로 낮출 수 있습니다. 또한 사내 서버나 개인 기기에 설치할 수 있어 보안성이 뛰어나며 외부 유출 위험이 적습니다. 다만 모델을 직접 구동하고 관리할 수 있는 어느 정도의 기술적 지식이 필요하다는 진입 장벽이 존재합니다.

오픈소스 AI를 둘러싼 흔한 오해와 진실

오픈소스 인공지능의 인기가 높아지면서 여러 가지 소문과 오해, 그리고 사실 관계를 바로잡을 필요가 있는 부분들이 있습니다.

많은 사람들이 오픈소스 인공지능은 성능이 형편없을 것이라고 오해합니다. 과거에는 대기업의 유료 모델과 성능 격차가 컸던 것이 사실입니다. 하지만 최근 몇 년 사이 메타, 알리바바, 미스트랄 AI 등 전 세계의 수많은 기업과 연구자들이 뛰어들면서 최상위 폐쇄형 모델과 맞먹거나 오히려 특정 분야에서는 뛰어넘는 성능을 보여주는 오픈소스 모델들이 속속 등장하고 있습니다.

또한 오픈소스는 완전히 공짜라서 비용이 전혀 들지 않는다고 생각하는 경우도 많습니다. 소프트웨어 다운로드 자체는 무료이지만, 이를 실행할 고성능 서버를 유지하고 관리하는 전기세와 인프라 비용, 그리고 모델을 입맛에 맞게 조율하는 엔지니어의 인건비 등을 고려해야 합니다. 그럼에도 불구하고 대규모 API 호출 비용에 비하면 전체 비용을 크게 아낄 수 있는 것은 명백한 사실입니다.

보안에 있어서도 오해가 존재합니다. 소스가 공개되어 있으니 해커들이 취약점을 쉽게 찾을 수 있어 위험하다는 시각이 있지만, 반대로 전 세계의 수많은 개발자가 코드를 함께 검토하고 수정하기 때문에 오히려 보안 버그가 더 빠르게 발견되고 수정되는 장점도 있습니다. 무엇보다 데이터를 외부 서버로 전송하지 않고 내 조직 내부에 두고 쓸 수 있다는 점에서 기업 보안에는 훨씬 유리할 수 있습니다.

전문가들이 바라보는 앞으로의 전망과 기업들의 생존 전략

인공지능 분야의 전문가들은 앞으로의 시장이 어느 한쪽으로 독점되지 않고 상용 모델과 오픈소스 모델의 공존 형태로 진화할 것이라고 입을 모읍니다. 특히 미국 기업들은 천문학적인 비용 압박을 이겨내기 위해 AT&T처럼 오픈소스 비중을 점차 늘려가는 추세를 보일 것입니다.

이러한 판도 변화 속에서 중국의 오픈소스 모델들이 보여주는 약진은 미국 빅테크 기업들에게 큰 자극제가 되고 있습니다. 뛰어난 성능의 중국산 모델들이 무료로 풀리면서 글로벌 개발자들의 선택을 받고 있기 때문입니다. 미국 기업들은 단순히 기술 개발을 넘어 비용 효율성과 생태계 주도권을 모두 잡아야 하는 복잡한 과제를 안고 있습니다.

일반 사용자나 기업 실무자 입장에서는 이러한 거대 기업들의 경쟁 덕분에 점점 더 저렴하고 강력한 인공지능 도구들을 쓸 수 있는 환경이 만들어지고 있습니다. 앞으로는 비싼 유료 서비스에만 의존하기보다, 자신의 목적에 딱 맞는 오픈소스 모델을 골라 쓰는 능력이 개인과 조직의 경쟁력을 좌우하는 중요한 열쇠가 될 것입니다.

오픈소스 AI 활용에 대해 자주 묻는 질문들

일반인도 프로그래밍을 몰라도 오픈소스 AI를 쓸 수 있나요

그렇습니다. 최근에는 복잡한 코딩을 몰라도 웹 브라우저나 전용 앱을 통해 오픈소스 기반의 AI 서비스를 쉽게 이용할 수 있도록 만들어주는 플랫폼들이 많아졌습니다. 일반 사용자는 기존 챗봇을 쓰듯 편하게 활용하면 됩니다.

내 컴퓨터에서 오픈소스 AI를 돌리려면 사양이 얼마나 좋아야 하나요

모델의 크기에 따라 다릅니다. 매개변수가 적은 경량 모델은 일반 노트북에서도 원활하게 돌아가지만, 성능이 뛰어난 대형 모델은 고성능 그래픽카드가 장착된 PC나 클라우드 서버 환경이 필요합니다.

오픈소스 AI를 상업적 용도로 쓸 때 저작권 문제가 없나요

모델마다 적용된 라이선스가 제각각 다릅니다. 상업적 이용을 전면 허용하는 모델이 있는가 하면, 일정 규모 이상의 기업은 별도의 협의를 거쳐야 하거나 연구 목적으로만 써야 하는 경우도 있으므로 사용 전에 반드시 라이선스 문구를 확인해야 합니다.

기업에서 오픈소스 AI를 도입할 때 가장 먼저 무엇을 해야 하나요

우리 회사가 인공지능을 통해 해결하고자 하는 문제가 무엇인지 명확히 정의하는 것이 우선입니다. 그 후 그 문제를 해결하기에 가장 가볍고 효율적인 모델이 무엇인지 탐색하고, 사내 보안 규정에 어긋나지 않는지 검토하는 단계를 거쳐야 합니다.