IBM Meluncurkan Granite 3.0 Untuk Memenuhi Kebutuhan AI Perusahaan Modern

Ahmad Fajar November 16, 2024 November 16, 2024 3 min read

IBM memperkenalkan Granite 3.0, lini model kecerdasan buatan (artificial intelligence – AI) terbaru yang dirancang untuk kebutuhan bisnis dengan performa tinggi, menawarkan transparansi, dan meningkatkan keamanan. Granite 3.0 menunjukkan kinerja yang unggul atau setara dengan model berukuran serupa dari penyedia model terkemuka yang memiliki benchmark
Peluncuran ini menandai permulaan era model AI berukuran kecil dengan performa tinggi yang ketika diintegrasikan dengan data perusahaan, mampu memberikan kinerja optimal untuk melakukan tugas-tugas spesifik yang setara dengan model yang lebih besar, namun dengan biaya yang jauh lebih rendah.

PEMBEDA UTAMA

Kemampuan Beradaptasi: Dirancang agar dapat disesuaikan dengan data perusahaan yang unik dan belum dimanfaatkan sebelumnya dengan InstructLab, sehingga mudah diintegrasikan ke berbagai skenario atau alur kerja perusahaan.
Biaya: Menawarkan performa spesifik yang dapat bersaing dengan model yang lebih besar, dengan biaya berkisar antara 3 hingga 23 kali lebih rendah dibandingkan model frontier yang besar.
Transparansi: IBM memberikan informasi tentang dataset yang digunakan untuk melatih model Granite, termasuk rincian langkah-langkah filtrasi, data cleansing, dan kurasi yang diterapkan.
Indemnitas Hukum: IBM menyediakan indemnitas kekayaan intelektual (Intellectual Property Indemnity) pada platform watsonx.ai yang memungkinkan perusahaan klien untuk menggabungkan data mereka ke model Granite dengan aman secara hukum guna mengembangkan aplikasi AI mereka sendiri.
Keamanan Siber: Model Granite Guardian 8B dan 2B menyediakan perangkat yang sangat komprehensif dalam mengidentifikasi risiko dan bahaya yang telah ada di pasar saat ini.
Tanggung Jawab: Model Granite Guardian mampu mengidentifikasi dimensi berbahaya seperti bias sosial, kebencian, toksisitas, kata-kata kasar, kekerasan, jailbreaking, dan lainnya, serta melakukan pemeriksaan spesifik RAG (Retrieval Augmented Generation) yang unik seperti keterhubungan, relevansi konteks, dan relevansi jawaban.
Performa: Secara keseluruhan, kinerja Granite 3.0 8B Instruct menunjukkan rata-rata yang lebih unggul dibandingkan performa terbaik dari model open-source berukuran serupa dari Meta dan Mistral pada tugas inti perusahaan, seperti Retrieval Augmented Generation (RAG). Model ini juga unggul di semua dimensi keamanan dibandingkan dengan model dari Meta dan Mistral pada tolok ukur keamanan terdepan, AttaQ.
Komprehensif: Dilatih menggunakan lebih dari 12 triliun token yang berasal dari data dalam 12 bahasa berbeda dan 116 bahasa pemrograman.
Open-source: Dirilis di bawah lisensi Apache 2.0 yang sepenuhnya bersifat permisif, memungkinkan pengembang bekerja dengan aman menuju jalur komersialisasi melalui watsonx yang mendorong inovasi, meningkatkan keandalan, dan memastikan keamanan.
- Keluaran model terbaru ini mencakup beberapa ukuran dan tipe, seperti:
- Model Granite 3.0 8B & 2B Instruct & Base untuk keperluan umum
- Model Granite Guardian 3.0 untuk memastikan keamanan dan kepercayaan, dan
- Model Granite 3.0 Mixture-of-Experts untuk inferensi yang efisien dan latensi rendah.
Segera tersedia: Model Instruct & Guardian di platform watsonx IBM & HuggingFace; pilihan model Granite 3.0 di platform mitra seperti Nvidia NIM Stack, Google Vertex serta melalui mitra ekosistem seperti AWS, Docker, Qualcomm melalui AI Hub, Salesforce, SAP, dan lainnya. Beberapa model Granite 3.0 yang dikurasi juga tersedia di Ollama dan Replicate.
IBM juga memperluas delivery platform bertenaga AI, IBM Consulting Advantage, dengan menjadikan model bahasa Granite 3.0 sebagai model default, memungkinkan konsultan IBM memberikan hasil kerja kepada klien yang lebih baik dan lebih cepat dengan biaya yang lebih rendah.