Efficiently Setting Up Dependencies for Karpathy's llm.c on Kaggle: Seeking Guidance
@calderjo đang làm issue này rồi.
Từ ngày 2/10/2024.
Đánh giá
Issue này chưa được đánh giá.
Mô tả
Hello Kaggle! 😊
I wasn't sure where the best place to ask something like this was, so I hope it's okay to open this GitHub issue.
Objective
I want to compile and run Andrej Karpathy’s code from this repository.
Requirements
To achieve this, I need to install the following dependencies:
sudo apt-get -y install nvidia-cuda-toolkit
sudo apt install libnccl2 libnccl-dev
sudo apt-get update
sudo apt-get install libnvtoolsext1
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt-get update
sudo apt-get -y install nvidia-cuda-toolkit
sudo apt-get -y install libcudnn9-dev-cuda-12
sudo apt install libnccl2 libnccl-dev
pip install tiktoken # This is used to tokenize the data to be passed into llm.c
Additionally, the instructions specify that I need to clone this repository into my home directory.
Dockerfile Concerns
I have looked into adding the above dependencies into the Dockerfile.tmpl, but I found the following lines in there:
# Make sure we are on the right version of CUDA
RUN update-alternatives --set cuda /usr/local/cuda-$CUDA_MAJOR_VERSION.$CUDA_MINOR_VERSION
# NVIDIA binaries from the host are mounted to /opt/bin.
ENV PATH=/opt/bin:${PATH}
It seems like the convention is NOT to use apt-get install here. Am I able to install the above dependencies (e.g., nvidia-cuda-toolkit, etc.) in this Dockerfile? What are your thoughts?
Current Issue
At the moment, I have to install all the dependencies each time I start up the notebook, which is incredibly slow and tedious, as you can imagine.
Compilation Method
I am using a method similar to this notebook to compile and run Karpathy’s code.
Thanks!
Thank you so much for Kaggle! 😄😄
- Ngôn ngữ chính
- Python
- Star
- 2.7k
- Fork
- 1k
- Merge trung bình
- 5 giờ 55 phút
- Pull request đã merge (30 ngày)
- 1
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của Kaggle/docker-python
-
add python3.11-venv package Đang mởenhancement
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
Kaggle/docker-python#1482 · 2 reaction ·
-
ذ Đang mở
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 1/100
Kaggle/docker-python#1555 ·
-
bug help wanted
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 42/100
Kaggle/docker-python#1546 · 4 bình luận · 2 reaction ·
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100
Kaggle/docker-python#1515 ·
-
Additional ext4-backed mount point for high-throughput I/O caching (besides `/kaggle/working`) Đang mởenhancement
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
Kaggle/docker-python#1506 · 1 reaction ·
Tất cả issue của Kaggle/docker-python
Issue tương tự
-
bug confirmed issue
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
open-webui/open-webui#30750 · 1 bình luận ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
-
enhancement
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
OpenwaterHealth/openmotion-bloodflow-app#604 · 1 bình luận ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100
-
good first issue
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 90/100