Startup chip AI Groq meluncurkan bisnis baru

Terima kasih untuk gambarnya: Nathan Laine/Bloomberg/Getty Images

Groq, sebuah startup yang mengembangkan chip untuk menjalankan model AI generatif lebih cepat dibandingkan perangkat keras konvensional, menargetkan sektor perusahaan dan publik.

Groq hari ini mengumumkan peluncuran divisi baru – Groq Systems – yang berfokus pada perluasan ekosistem pelanggan dan pengembangnya secara signifikan. Sebagai bagian dari cakupan Groq Systems, ia melayani organisasi, termasuk lembaga pemerintah, yang ingin menambahkan chip Groq ke pusat data yang ada atau membangun pusat data baru menggunakan prosesor Groq.

Dalam pembentukan unit baru, Groq mengakuisisi Definitive Intelligence, sebuah perusahaan berbasis di Palo Alto yang menawarkan berbagai solusi AI berorientasi bisnis, termasuk chatbot, alat analisis data, dan pembuat dokumentasi. CEO Definitive Intelligence Sunny Madra kini memimpin GroqCloud, platform cloud Groq yang menyediakan dokumentasi perangkat keras Groq, sampel kode, dan akses API swalayan ke akselerator cloud perusahaan.

“Di Groq, kami berkomitmen untuk menciptakan ekonomi AI yang dapat diakses dan terjangkau oleh siapa saja yang memiliki ide cemerlang,” kata salah satu pendiri dan CEO Groq, Jonathan Ross dalam siaran pers. “Kami sangat gembira menyambut Sunny dan timnya di Definitive Intelligence untuk membantu kami mencapai misi ini… Tim Definitive memiliki keahlian dalam solusi AI dan strategi masuk ke pasar, serta komitmen yang terbukti dalam berbagi pengetahuan dengan komunitas . “

Madra ikut mendirikan Definitive Intelligence pada tahun 2022 bersama Gavin Sherry, mantan direktur teknik di EMC. Sebelum meluncurkan Definitive Intelligence, Madra dan Sherry bersama-sama meluncurkan Autonomic, sebuah platform cloud untuk menghubungkan sistem mobilitas, yang diakuisisi Ford pada tahun 2018.

Definitive Intelligence menawarkan beberapa produk GenAI yang berorientasi bisnis, termasuk OpenAssists (kumpulan perpustakaan sumber terbuka untuk mengembangkan chatbot AI) dan Advisor (generator visualisasi yang terhubung ke database perusahaan dan publik). Salah satu alat terkemuka Definitive adalah Pioneer, sebuah “agen ilmu data otonom” yang dirancang untuk menangani berbagai tugas analisis data, termasuk pemodelan prediktif.

Sebelum akuisisi, Definitive Intelligence telah mengumpulkan modal ventura sebesar $25,5 juta.

“Dunia baru menyadari betapa pentingnya inferensi berkecepatan tinggi untuk AI generatif,” kata Madra dalam pernyataan email. “Di Groq, kami memberikan kecepatan, latensi rendah, dan efisiensi yang dibutuhkan pengembang untuk memenuhi janji AI generatif. Saya telah menjadi penggemar berat Groq sejak pertama kali bertemu Jonathan pada tahun 2016 dan saya bersemangat untuk bergabung dengannya dan tim Groq dalam upaya mereka menghadirkan mesin inferensi tercepat di dunia.”

Groq, yang muncul secara sembunyi-sembunyi pada tahun 2016, membangun apa yang disebutnya mesin inferensi LPU (unit pemrosesan bahasa). Perusahaan mengklaim LPU-nya dapat menjalankan model bahasa mirip arsitektur besar yang ada seperti ChatGPT dan OpenAI GPT-4 dengan kecepatan 10x lebih cepat.

Klaim ketenaran Ross adalah membantu menciptakan Tensor Processing Unit (TPU), chip akselerasi AI milik Google yang digunakan untuk melatih dan menjalankan model.

Definitive Intelligence adalah akuisisi kedua Groq setelah Maxeler Technologies, sebuah perusahaan komputasi berkinerja tinggi dan solusi infrastruktur AI, pada tahun 2022. Ini mungkin bukan yang terakhir. Pasar untuk chip AI kustom sangat kompetitif, dan – sejauh pembelian definitif sesuai dengan rencana Groq – Groq jelas bertekad untuk membangun pijakan sebelum para pesaingnya memiliki peluang.