Bita Darvish Rouhani

Bita Darvish Rouhani는 NVIDIA의 저명한 엔지니어이자 관리자로서, 비용 최적화된 생성형 AI 추론을 위한 알고리즘, 소프트웨어 및 하드웨어 공동 설계 이니셔티브를 이끌고 있습니다. NVIDIA에 합류하기 전에는 Microsoft에서 파트너 그룹 관리자로 근무하면서 OCP MX 컨소시엄을 공동 설립하고 이끌었습니다. 이 컨소시엄은 거의 모든 주류 AI 칩에 대한 AI 훈련 및 추론을 위한 최초의 4비트 및 6비트 데이터 유형 세트를 표준화했습니다. Bita는 UC 샌디에고에서 컴퓨터 공학 박사 학위를 취득했습니다.

Posts by Bita Darvish Rouhani

Data Science

스마트하게 사고하고, 백과사전급 질문을 던지세요: 수백만 토큰 실시간 추론으로 32배 더 많은 사용자 지원

최신 AI 애플리케이션은 수억 개의 토큰을 처리하는 컨텍스트 윈도우와 수십억 개의 파라미터를 결합한 모델에 점점 더 의존하고 있습니다. 6 MIN READ