BlinkDL 的仓库

Path tracing demo with JS in your web browser. 用浏览器JS做路径跟踪渲染。

最近提交 2018年6月11日

Project Ivory is a simple forum written a few years ago.

最近提交 2020年5月16日

The CUDA version of the RWKV language model ( https://github.com/BlinkDL/RWKV-LM )

最近提交 2025年12月10日

RWKV (pronounced RwaKuv) is an RNN with great LLM performance, which can also be directly trained like a GPT transformer (parallelizable). We are at RWKV-7 "Goose". So it's combining the best of RNN and transformer - great performance, linear time, constant space (no kv-cache), fast training, infinite ctx_len, and free sentence embedding.

最近提交 2026年8月14日

RWKV-v2-RNN trained on the Pile. See https://github.com/BlinkDL/RWKV-LM for details.

最近提交 2022年9月14日

最近提交 2026年8月11日

LayerNorm(SmallInit(Embedding)) in a Transformer to improve convergence

最近提交 2022年2月21日

My vibe math results

最近提交 2026年8月16日

Let us make Psychohistory (as in Asimov) a reality, and accessible to everyone. Useful for LLM grounding and games / fiction / business / finance / governance, and can align agents with human too.

最近提交 2023年4月9日

Prepare for DeekSeek R1 inference: Benchmark CPU, DRAM, SSD, iGPU, GPU, ... with efficient code.

最近提交 2025年2月2日

An implementation of model parallel autoregressive transformers on GPUs, based on the DeepSpeed library.

最近提交 2022年2月25日

LiBai(李白): A Toolbox for Large-Scale Distributed Parallel Training

最近提交 2022年9月5日

A *tuned* minimal PyTorch re-implementation of the OpenAI GPT (Generative Pretrained Transformer) training

最近提交 2021年8月9日

RWKV-7: Surpassing GPT

最近提交 2024年11月17日

RWKV in nanoGPT style

最近提交 2023年12月12日

Understand and test language model architectures on synthetic tasks.

最近提交 2025年6月8日