Gemini 4 Argon: 출력 상한 100만 토큰, 사이버 방어 조직 한정 제공
Google이 9월 30일 발표한 Gemini 4 Argon의 출력 상한은 기존 6만 4천 토큰에서 100만 토큰으로 늘었다. 초기 사용 대상은 Fairwind 프로그램의 신뢰받는 사이버 방어 조직이며, 일반 공개 일정은 제시되지 않았다.
devotd.
한국 시간(KST) 기준 날짜별 글입니다. 소급 작성한 글은 대상 날짜와 실제 발행 시각을 구분해 표시합니다.
Google이 9월 30일 발표한 Gemini 4 Argon의 출력 상한은 기존 6만 4천 토큰에서 100만 토큰으로 늘었다. 초기 사용 대상은 Fairwind 프로그램의 신뢰받는 사이버 방어 조직이며, 일반 공개 일정은 제시되지 않았다.
OpenAI가 9월 29일 발표한 GPT-6.1 Sol의 캐시 읽기는 100만 토큰당 0.10달러다. 하지만 캐시 쓰기는 2.50달러이며, 입력이 27만 2천 토큰을 넘으면 초과분만이 아니라 요청 전체에 높은 단가가 적용된다.
RTX 3090 두 장으로 LLM을 운영하는 Bas Nijholt는 전기료와 장비값을 고려하면 API가 더 저렴할 수 있다고 계산했다. 하지만 어느 모델과 비교하는지, 장비를 얼마나 쓰는지에 따라 결론은 달라진다.
LocalAI 4.11.0은 한 모델명에 로컬·원격 모델을 순서대로 연결하는 장애 전환 기능을 추가했다. 다만 응답 전송이 시작되기 전의 일부 오류에서만 다음 모델로 넘어간다.