오픈AI 스프링 업데이트 이벤트에서 GPT-4o의 실시간 대화형 음성 데모를 라이브로 시연하는 중, 마크 첸은 “이 케이블이 궁금해하시는 분들을 위해 설명드리자면, 이는 인터넷 연결의 일관성을 유지하기 위해서입니다”라고 언급했습니다. 그러나 현실 세계의 인터넷은 결코 일관적이지 않습니다.
데모 자체는 LLMs의 또 다른 주요 기술적 진보를 보여주었습니다. 이 모델 는 인간과 컴퓨터 간의 더 자연스러운 상호작용을 향한 한 걸음입니다—사용자의 말을 중단할 수 있으며, 사용자의 목소리에서 감정을 이해할 수도 있습니다. 그러나 전 세계 사용자에게 매력적이고 가치 있는 서비스를 제공하려면, 오늘날 사용되는 다양한 모바일 기기와 네트워크 환경에서 안정적으로 작동해야 합니다.
주요 과제 중 하나는 사용자의 모바일 기기와 인터넷 서비스 제공업체(ISP) 사이의 ‘마지막 마일’ 연결입니다. 이 연결은 가용 대역폭의 급격한 변동, 신호 끊김, 높은 혼잡도 및 패킷 손실로 인해 신뢰성 있고 일관된 실시간 통신(RTC)을 제공하기 매우 어렵습니다. 인간 간 RTC에 존재하는 동일한 과제들이 인간과 AI 간의 통신에도 적용됩니다.
지난 10년간 아고라는 무선 마지막 마일 도전 과제를 극복하며 자연스러운 대화를 위한 성능을 최적화하는 실시간 인터넷 인프라와 엔드투엔드 기술을 구축해 왔습니다.
아고라의 인프라스트럭처는 전 세계 수천 명의 앱 개발자가 사용하며, 월간 600억 분 이상의 오디오 및 비디오 사용량을 처리하며 30억 대 이상의 모바일 기기에서 신뢰할 수 있는 실시간 통신을 지원합니다. 인간과 AI 간의 자연스러운 통신은 안정적이고 신뢰할 수 있는 실시간 인터넷이 필요합니다. Agora가 개발자가 대화형 AI를 구축하는 데 어떻게 도움을 주는지 자세히 알아보세요.
