mit-han-lab

[ICLR 2024] Model Bahasa Streaming Efisien dengan Sink Perhatian

[Penghargaan Makalah Terbaik MLSys 2024] AWQ: Kuantisasi Bobot berbasis Aktivasi untuk Kompresi dan Akselerasi LLM

Model fondasi visi yang efisien untuk generasi dan persepsi resolusi tinggi.

[ICCV 2019] TSM: Temporal Shift Module untuk Pemahaman Video yang Efisien

[ICML 2023] SmoothQuant: Kuantisasi Pasca-Pelatihan yang Akurat dan Efisien untuk Large Language Models

Kerangka kerja berbasis PyTorch untuk Simulasi Kuantum Klasik, Pembelajaran Mesin Kuantum, Jaringan Saraf Kuantum, Sirkuit Kuantum Terparameterisasi dengan dukungan untuk penerapan yang mudah pada komputer kuantum nyata.

[MICRO'23, MLSys'22] TorchSparse: Kerangka Kerja Pelatihan dan Inferensi yang Efisien untuk Konvolusi Jarang pada GPU.

[ICLR 2019] ProxylessNAS: Pencarian Arsitektur Neural Langsung pada Tugas Target dan Perangkat Keras

[NeurIPS 2020] Augmentasi Diferensial untuk Pelatihan GAN yang Efisien Data

[CVPR 2020] Kompresi GAN: Arsitektur Efisien untuk GAN Kondisional Interaktif

StreamingVLM: Pemahaman Real-Time untuk Aliran Video Tanpa Batas

TinyChatEngine: Pustaka Inferensi LLM Pada Perangkat

[NeurIPS 2020] MCUNet: Deep Learning Kecil pada Perangkat IoT; [NeurIPS 2021] MCUNetV2: Inferensi Berbasis Patch yang Efisien Memori untuk Deep Learning Kecil; [NeurIPS 2022] MCUNetV3: Pelatihan di Perangkat di Bawah Memori 256KB

[MLSys'25] QServe: Kuantisasi W4A8KV4 dan Desain Bersama Sistem untuk Layanan LLM yang Efisien; [MLSys'25] LServe: Layanan LLM Sekuens Panjang yang Efisien dengan Perhatian Jarang Terpadu

[CVPR 2024 Highlight] DistriFusion: Inferensi paralel terdistribusi untuk model difusi resolusi tinggi

[IJCV] FastComposer: Pembuatan Gambar Multi-Subjek Tanpa Penyetelan dengan Perhatian Terlokalisasi

[NeurIPS 2020] MCUNet: Tiny Deep Learning on IoT Devices; [NeurIPS 2021] MCUNetV2: Memory-Efficient Patch-based Inference for Tiny Deep Learning

HART: Pembuatan Visual yang Efisien dengan Hybrid Autoregressive Transformer

[NeurIPS 2025] Radial Attention: O(nlogn) Sparse Attention dengan Energy Decay untuk Pembuatan Video Berdurasi Panjang

Kernel sparse attention yang mendukung pola sparse campuran.

[ICLR 2025] DuoAttention: Inferensi LLM konteks panjang yang efisien dengan kepala Retrieval dan Streaming.

Pelatihan Pada Perangkat di Bawah Memori 256KB [NeurIPS'22]