1

EmbeddingGemma 2 của Google cạnh tranh với OpenAI trên CPU tiêu dùng

huggingnews.com

Mô hình đa dạng thức 740M parameter mới ra mắt từ Google đã nhanh chóng trở thành mô hình được yêu thích thứ 4 trong lịch sử công ty sau khi vượt qua độ phổ biến của EmbeddingGemma 1. EmbeddingGemma 2 đạt benchmark tương đương với embedding-3-large của OpenAI và Qwen 8B nhưng chạy trên CPU tiêu dùng thay vì GPU. Mặc dù đã xác định thành công 13 trong 14 đoạn video từ một câu mô tả duy nhất trong kiểm tra, mô hình này thiếu cảm giác thời gian, coi video và phiên bản đảo ngược của nó là 99% giống nhau.

Các nhà phát triển đã áp dụng mô hình này để xây dựng DigUp, một công cụ nguồn mở cho Mac lập chỉ mục tệp tin và podcast cục bộ. Để hỗ trợ tìm kiếm trên thiết bị, Google sử dụng Matryoshka embeddings để chỉ lưu 256 giá trị đầu tiên trong tổng số 768 giá trị dưới dạng vector. Theo Google, cách tiếp cận này giảm nhu cầu lưu trữ xuống còn 1/3 nhưng vẫn duy trì khoảng 95% chất lượng truy xuất cho hình ảnh và giọng nói.

Đăng nhập để góp ý

Nguồn chính

  1. SOURCE@dorkitude“comparable to open AI's embedding-3-large and Qwen 8B, which are two of the most common GPU models out there”x.com
  2. SOURCE@tomaarsen“surpasses EG1's likes to become the 4th most liked Google model ever, as well as the 3rd most liked Sentence Transformers model ever”x.com
  3. SUPPORT@learnopencv“a video and its reverse are 99%+ similar”x.com
  4. SUPPORT@tomaarsen“unlike LLMs, you can't just easily switch if the host deprecates the model, you have to reindex all docs”x.com
  5. SUPPORT@theturingpost“search videos with a spoken description, audio with a question, and images with a sketch - all on your device, with just 740M parameters”x.com
  6. SUPPORT@googlegemma“DigUp runs @GoogleDeepMind's new EmbeddingGemma 2 on-device: describe a video moment, a podcast minute, a PDF page, a photo or code”x.com
  7. SOURCEmarketbrief.now
Bản Markdown