생성형 AI 추론 서빙 분야를 선도하고 있는 스타트업 ‘프렌들리AI(FriendliAI)’(대표이사 전병곤)가 생성형 AI 모델을 쉽게 활용할 수 있는 ‘프렌들리AI 서버리스 엔드포인트(Friendli Serverless Endpoints)’ 서비스를 출시했다고 4일 밝혔다. 프렌들리AI 서버리스 엔드포인트는 △연구자 △개발자 △머신러닝 엔지니어 △데이터 과학자가 서빙 인프라 관리를 신경 쓸 필요 없이 최신 생성형 AI 모델들을 쉽게 사용할 수 있도록 돕는 서비스다. 기존 생성형 AI 활용에 있어 많은 수의 인력과 시간을 투입하여 진행해야 했던 복잡한 인프라 설치 및 운영 과정과 모델 서빙의…

AI 모델 최적화 기술 기업 노타(대표 채명수)가 CB 인사이트(CB Insights)에서 발표한 ‘LLMOps Market Map’의 AI 최적화(Hardware-aware AI optimization) 부문 대표 기업으로 선정됐다. CB 인사이트는 글로벌 시장조사 기업으로 기업 및 투자자에게 기업 인사이트, 기술 동향, 투자 기회 등을 제공한다. 보유하고 있는 100만 개 이상의 스타트업 데이터베이스를 기반으로 높은 신뢰도를 갖춘 리포트를 발행하며, 이는 대한민국을 비롯해 여러 정부 기관의 참고 지표로 활용된다. LLMOps(초거대 언어 모델 운영) Market Map은 올해 신설된 분야로, 급부상 중인 LLM(초거대…