README.md

Buku Resep Phi: Contoh Praktis dengan Model Phi dari Microsoft

Phi adalah serangkaian model AI open-source yang dikembangkan oleh Microsoft.

Phi saat ini merupakan model bahasa kecil (SLM) yang paling kuat dan hemat biaya, dengan performa yang sangat baik dalam berbagai bahasa, penalaran, pembuatan teks/chat, pemrograman, gambar, audio, dan skenario lainnya.

Anda dapat menerapkan Phi di cloud atau perangkat edge, serta dengan mudah membangun aplikasi AI generatif dengan daya komputasi yang terbatas.

Ikuti langkah-langkah ini untuk mulai menggunakan sumber daya ini:

1. Fork Repositori: Klik
2. Clone Repositori: git clone https://github.com/microsoft/PhiCookBook.git
3. Bergabung dengan Komunitas Discord AI Microsoft dan temui para ahli serta pengembang lainnya

Daftar Isi

• Pengantar

  • Selamat Datang di Keluarga Phi
  • Menyiapkan Lingkungan Anda
  • Memahami Teknologi Utama
  • Keamanan AI untuk Model Phi
  • Dukungan Perangkat Keras untuk Phi
  • Model Phi & Ketersediaannya di Berbagai Platform
  • Menggunakan Guidance-ai dan Phi
  • Model di Marketplace GitHub
  • Katalog Model Azure AI

• Inferensi Phi di Berbagai Lingkungan

  • Hugging Face
  • Model GitHub
  • Katalog Model Azure AI Foundry
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM

• Inferensi Keluarga Phi

  • Inferensi Phi di iOS
  • Inferensi Phi di Android

• Inference Phi di Jetson

  • Inference Phi di AI PC
  • Inference Phi dengan Apple MLX Framework
  • Inference Phi di Server Lokal
  • Inference Phi di Server Jarak Jauh menggunakan AI Toolkit
  • Inference Phi dengan Rust
  • Inference Phi--Vision di Lokal
  • Inference Phi dengan Kaito AKS, Azure Containers (dukungan resmi)

• Mengkuantisasi Keluarga Phi

  • Kuantisasi Phi-3.5 / 4 menggunakan llama.cpp
  • Kuantisasi Phi-3.5 / 4 menggunakan ekstensi Generative AI untuk onnxruntime
  • Kuantisasi Phi-3.5 / 4 menggunakan Intel OpenVINO
  • Kuantisasi Phi-3.5 / 4 menggunakan Apple MLX Framework

• Evaluasi Phi

  • AI yang Bertanggung Jawab
  • Azure AI Foundry untuk Evaluasi
  • Menggunakan Promptflow untuk Evaluasi

• RAG dengan Azure AI Search

  • Cara menggunakan Phi-4-mini dan Phi-4-multimodal (RAG) dengan Azure AI Search

• Contoh pengembangan aplikasi Phi

  • Aplikasi Teks & Chat
    • Contoh Phi-4 🆕
      • [📓] Chat dengan Model Phi-4-mini ONNX
      • Chat dengan Model Lokal Phi-4 ONNX .NET
      • Aplikasi Konsol Chat .NET dengan Phi-4 ONNX menggunakan Semantic Kernel
    • Contoh Phi-3 / 3.5
      • Chatbot Lokal di browser menggunakan Phi3, ONNX Runtime Web, dan WebGPU
      • OpenVino Chat
      • Multi Model - Interaktif Phi-3-mini dan OpenAI Whisper
      • MLFlow - Membangun wrapper dan menggunakan Phi-3 dengan MLFlow
      • Optimisasi Model - Cara mengoptimalkan model Phi-3-min untuk ONNX Runtime Web dengan Olive
      • Aplikasi WinUI3 dengan Phi-3 mini-4k-instruct-onnx
      • Contoh Aplikasi Catatan AI Multi Model di WinUI3
      • Fine-tune dan Integrasi model Phi-3 kustom dengan Prompt flow
      • Fine-tune dan Integrasi model Phi-3 kustom dengan Prompt flow di Azure AI Foundry
      • Evaluasi Model Phi-3 / Phi-3.5 yang telah di-Fine-tune di Azure AI Foundry dengan Fokus pada Prinsip AI Bertanggung Jawab Microsoft

• [📓] Contoh prediksi bahasa Phi-3.5-mini-instruct (China/Inggris) - Chatbot RAG WebGPU Phi-3.5-Instruct - Menggunakan GPU Windows untuk membuat solusi Prompt Flow dengan Phi-3.5-Instruct ONNX - Menggunakan Microsoft Phi-3.5 tflite untuk membuat aplikasi Android - Contoh Q&A .NET menggunakan model lokal ONNX Phi-3 dengan Microsoft.ML.OnnxRuntime - Aplikasi chat konsol .NET dengan Semantic Kernel dan Phi-3

  • Contoh Berbasis Kode Azure AI Inference SDK

    • Contoh Phi-4 🆕
      • [📓] Menghasilkan kode proyek menggunakan Phi-4-multimodal
    • Contoh Phi-3 / 3.5
      • Bangun GitHub Copilot Chat Visual Studio Code Anda sendiri dengan Microsoft Phi-3 Family
      • Buat Agen Chat Copilot Visual Studio Code Anda sendiri dengan Phi-3.5 oleh Model GitHub

  • Contoh Penalaran Lanjutan

    • Contoh Phi-4 🆕
      • [📓] Contoh Penalaran Phi-4-mini

  • Demo

    • Demo Phi-4-mini yang dihosting di Hugging Face Spaces
    • Demo Phi-4-multimodal yang dihosting di Hugging Face Spaces

  • Contoh Vision

    • Contoh Phi-4 🆕
      • [📓] Menggunakan Phi-4-multimodal untuk membaca gambar dan menghasilkan kode
    • Contoh Phi-3 / 3.5
      • [📓]Phi-3-vision-Image text to text
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP Embedding
      • DEMO: Phi-3 Daur Ulang
      • Phi-3-vision - Asisten bahasa visual - dengan Phi3-Vision dan OpenVINO
      • Phi-3 Vision Nvidia NIM
      • Phi-3 Vision OpenVino
      • [📓]Phi-3.5 Vision contoh multi-frame atau multi-image
      • Model ONNX Lokal Phi-3 Vision menggunakan Microsoft.ML.OnnxRuntime .NET
      • Model ONNX Lokal Phi-3 Vision berbasis Menu menggunakan Microsoft.ML.OnnxRuntime .NET

  • Contoh Audio

    • Contoh Phi-4 🆕
      • [📓] Mengekstrak transkrip audio menggunakan Phi-4-multimodal
      • [📓] Contoh Audio Phi-4-multimodal
      • [📓] Contoh Terjemahan Ucapan Phi-4-multimodal
      • Aplikasi konsol .NET menggunakan Phi-4-multimodal Audio untuk menganalisis file audio dan menghasilkan transkrip

  • Contoh MOE

    • Contoh Phi-3 / 3.5
      • [📓] Model Mixture of Experts (MoEs) Phi-3.5 Contoh Media Sosial
      • [📓] Membangun Pipeline Retrieval-Augmented Generation (RAG) dengan NVIDIA NIM Phi-3 MOE, Azure AI Search, dan LlamaIndex

  • Contoh Function Calling

    • Contoh Phi-4 🆕
      • [📓] Menggunakan Function Calling Dengan Phi-4-mini

  • Contoh Pencampuran Multimodal

    • Contoh Phi-4 🆕

• [📓] Menggunakan Phi-4-multimodal sebagai Jurnalis Teknologi

  • Aplikasi konsol .NET menggunakan Phi-4-multimodal untuk menganalisis gambar

• Fine-tuning Contoh Phi

  • Skenario Fine-tuning
  • Fine-tuning vs RAG
  • Fine-tuning Membuat Phi-3 menjadi Ahli Industri
  • Fine-tuning Phi-3 dengan AI Toolkit untuk VS Code
  • Fine-tuning Phi-3 dengan Azure Machine Learning Service
  • Fine-tuning Phi-3 dengan Lora
  • Fine-tuning Phi-3 dengan QLora
  • Fine-tuning Phi-3 dengan Azure AI Foundry
  • Fine-tuning Phi-3 dengan Azure ML CLI/SDK
  • Fine-tuning dengan Microsoft Olive
  • Fine-tuning dengan Microsoft Olive Hands-On Lab
  • Fine-tuning Phi-3-vision dengan Weights and Bias
  • Fine-tuning Phi-3 dengan Apple MLX Framework
  • Fine-tuning Phi-3-vision (dukungan resmi)
  • Fine-Tuning Phi-3 dengan Kaito AKS, Azure Containers (dukungan resmi)
  • Fine-Tuning Phi-3 dan 3.5 Vision

• Hands on Lab

  • Mengeksplorasi model terbaru: LLMs, SLMs, pengembangan lokal, dan lainnya
  • Mengungkap Potensi NLP: Fine-Tuning dengan Microsoft Olive

• Makalah Penelitian Akademik dan Publikasi

  • Textbooks Are All You Need II: laporan teknis phi-1.5
  • Laporan Teknis Phi-3: Model Bahasa yang Sangat Mampu Secara Lokal di Ponsel Anda
  • Laporan Teknis Phi-4
  • Mengoptimalkan Model Bahasa Kecil untuk Pemanggilan Fungsi di Kendaraan
  • (WhyPHI) Fine-Tuning PHI-3 untuk Menjawab Pertanyaan Pilihan Ganda: Metodologi, Hasil, dan Tantangan

Menggunakan Model Phi

Phi di Azure AI Foundry

Anda dapat mempelajari cara menggunakan Microsoft Phi dan cara membangun solusi E2E di berbagai perangkat keras Anda. Untuk mencoba Phi sendiri, mulailah dengan menjelajahi model dan menyesuaikan Phi untuk skenario Anda menggunakan Katalog Model Azure AI Foundry. Anda dapat mempelajari lebih lanjut di Panduan Memulai dengan Azure AI Foundry.

Playground
Setiap model memiliki playground khusus untuk menguji model Azure AI Playground.

Phi di Model GitHub

Anda dapat mempelajari cara menggunakan Microsoft Phi dan cara membangun solusi E2E di berbagai perangkat keras Anda. Untuk mencoba Phi sendiri, mulailah dengan menjelajahi model dan menyesuaikan Phi untuk skenario Anda menggunakan Katalog Model GitHub. Anda dapat mempelajari lebih lanjut di Panduan Memulai dengan Katalog Model GitHub.

Playground
Setiap model memiliki playground khusus untuk menguji model.

Phi di Hugging Face

Anda juga dapat menemukan model ini di Hugging Face

Playground
Hugging Chat playground

AI yang Bertanggung Jawab

Microsoft berkomitmen untuk membantu pelanggan menggunakan produk AI kami secara bertanggung jawab, berbagi pembelajaran kami, dan membangun kemitraan berbasis kepercayaan melalui alat seperti Transparency Notes dan Impact Assessments. Banyak dari sumber daya ini dapat ditemukan di https://aka.ms/RAI.
Pendekatan Microsoft terhadap AI yang bertanggung jawab didasarkan pada prinsip AI kami, yaitu keadilan, keandalan dan keselamatan, privasi dan keamanan, inklusivitas, transparansi, dan akuntabilitas.

Model bahasa alami, gambar, dan suara berskala besar - seperti yang digunakan dalam sampel ini - berpotensi berperilaku dengan cara yang tidak adil, tidak dapat diandalkan, atau menyinggung, yang pada akhirnya dapat menyebabkan kerugian. Silakan konsultasikan catatan transparansi layanan Azure OpenAI untuk memahami risiko dan keterbatasannya.

Pendekatan yang direkomendasikan untuk mengurangi risiko ini adalah dengan memasukkan sistem keamanan dalam arsitektur Anda yang dapat mendeteksi dan mencegah perilaku berbahaya. Azure AI Content Safety menyediakan lapisan perlindungan independen, yang mampu mendeteksi konten berbahaya yang dihasilkan pengguna atau AI dalam aplikasi dan layanan. Azure AI Content Safety mencakup API teks dan gambar yang memungkinkan Anda mendeteksi materi yang berbahaya. Di dalam Azure AI Foundry, layanan Content Safety memungkinkan Anda melihat, mengeksplorasi, dan mencoba kode sampel untuk mendeteksi konten berbahaya di berbagai modalitas. Dokumentasi quickstart berikut ini memandu Anda dalam membuat permintaan ke layanan tersebut.

Aspek lain yang perlu diperhatikan adalah kinerja aplikasi secara keseluruhan. Dalam aplikasi multi-modal dan multi-model, kami menganggap kinerja berarti sistem bekerja sesuai dengan harapan Anda dan pengguna Anda, termasuk tidak menghasilkan output yang berbahaya. Penting untuk menilai kinerja aplikasi Anda secara keseluruhan menggunakan Performance and Quality and Risk and Safety evaluators. Anda juga memiliki kemampuan untuk membuat dan mengevaluasi dengan custom evaluators.

Anda dapat mengevaluasi aplikasi AI Anda di lingkungan pengembangan menggunakan Azure AI Evaluation SDK. Dengan dataset uji atau target tertentu, generasi aplikasi AI generatif Anda diukur secara kuantitatif menggunakan evaluators bawaan atau evaluators kustom pilihan Anda. Untuk memulai dengan Azure AI Evaluation SDK untuk mengevaluasi sistem Anda, Anda dapat mengikuti panduan quickstart. Setelah Anda menjalankan evaluasi, Anda dapat memvisualisasikan hasilnya di Azure AI Foundry.

Merek Dagang

Proyek ini mungkin mengandung merek dagang atau logo untuk proyek, produk, atau layanan. Penggunaan merek dagang atau logo Microsoft yang diizinkan harus sesuai dan mematuhi Panduan Merek & Merek Dagang Microsoft.
Penggunaan merek dagang atau logo Microsoft dalam versi modifikasi dari proyek ini tidak boleh menyebabkan kebingungan atau menyiratkan sponsor dari Microsoft. Setiap penggunaan merek dagang atau logo pihak ketiga tunduk pada kebijakan pihak ketiga tersebut.

Penafian:
Dokumen ini telah diterjemahkan menggunakan layanan terjemahan berbasis AI. Meskipun kami berupaya untuk memberikan terjemahan yang akurat, harap disadari bahwa terjemahan otomatis mungkin mengandung kesalahan atau ketidakakuratan. Dokumen asli dalam bahasa aslinya harus dianggap sebagai sumber yang otoritatif. Untuk informasi yang bersifat kritis, disarankan untuk menggunakan jasa penerjemahan manusia profesional. Kami tidak bertanggung jawab atas kesalahpahaman atau salah tafsir yang timbul dari penggunaan terjemahan ini.