Trong cuộc đua AI toàn cầu, mọi nỗ lực đều hướng đến việc tối ưu các mô hình ngôn ngữ lớn (LLM) để chúng có thể vận hành trên những phần cứng yếu nhất, với chi phí thấp nhất, nhằm giảm thiểu năng lượng tiêu thụ. Nhưng sẽ thế nào nếu một mô hình AI có thể chạy trên một thiết bị ra đời từ năm 1982? Đó chính xác là điều mà Maciej Witkowiak đang thực hiện với dự án mới của mình.
Dự án có tên “Llama2.c64” này hướng đến mục tiêu đưa một AI đơn giản hoạt động trên máy tính Commodore 64 – một thiết bị ra đời rất lâu trước khi khái niệm LLM được biết đến. Dù không thể sánh kịp với các mô hình hiện đại như GPT-4o, đây vẫn là một thành tựu kỹ thuật đầy ấn tượng.
Llama2.c64: Đưa Công Nghệ Mới Vào Phần Cứng Cũ, Dù Chậm Rãi
Maciej Witkowiak đã giới thiệu Llama2.c64 ra thế giới, như thông tin được Hackaday đăng tải đầu tiên. Dĩ nhiên, bạn sẽ không mong đợi hiệu suất cao từ phần cứng này, nhưng việc khiến bất kỳ thứ gì hoạt động được trên nó đã là một điều cực kỳ thú vị.
Llama2.c64 hoạt động trên Commodore 64, hiển thị kết quả tạo truyện
Witkowiak mô tả chi tiết về Llama2.c64 như sau:
Được port sang C64 bởi Maciej ‘YTM/Elysium’ Witkowiak sử dụng oscar64.
Llama2.c64 là một phiên bản chuyển đổi của llama2.c dành cho Commodore C64, yêu cầu ít nhất 2MB REU.
Nó chạy mô hình tinystories 260K, mang khả năng của Llama2 đến môi trường phần cứng độc đáo của C64.
Đây không phải là một mô hình trò chuyện.
Thay vào đó, hãy tưởng tượng bạn đưa cho một đứa trẻ 3 tuổi bắt đầu một câu chuyện – chúng sẽ tiếp tục nó theo vốn từ vựng và khả năng tốt nhất của mình.
Bạn có thể thấy một ví dụ về việc Llama2.c64 tạo ra một câu chuyện qua hình ảnh trên. Quả thực, kết quả nghe có vẻ như một đứa trẻ đang bập bẹ kể chuyện, nhưng xét về lượng dữ liệu AI được cung cấp và khả năng tiếp nối câu chuyện, đây thực sự là điều kinh ngạc đối với một chiếc máy tính 42 năm tuổi.
Về ưu điểm của dự án này, Witkowiak nhấn mạnh rằng AI hoàn toàn nằm trong tầm kiểm soát của người dùng, có thể hoạt động trên phần cứng yếu, và khẳng định: “Việc chờ đợi token tiếp theo trên C64 cũng thú vị không kém gì việc chờ đợi một token từ DeepSeek chạy trên laptop của bạn.” Trong khi đó, về nhược điểm, anh ấy chỉ nói “Không có gì đáng kể, đây thật sự là một dự án tuyệt vời” (dù anh ấy thừa nhận nó có thể hơi chậm).
Nếu bạn muốn chạy AI trên phần cứng mạnh hơn một chút (nhưng vẫn đủ yếu để gây ấn tượng), hãy khám phá tám bo mạch máy tính đơn (SBC) lý tưởng để chạy AI tại nhà. Ngoài ra, bạn cũng có thể đọc về câu chuyện một biên tập viên đã biến chiếc PC cũ của mình thành một máy chủ tạo ảnh AI.
Kết Luận
Dự án Llama2.c64 không chỉ là một minh chứng ấn tượng cho khả năng thích ứng của trí tuệ nhân tạo, mà còn là một cầu nối độc đáo giữa công nghệ tiên tiến và phần cứng cổ điển. Nó mở ra góc nhìn về tiềm năng của AI trên mọi giới hạn phần cứng, thách thức quan niệm về sức mạnh tính toán cần thiết. Đối với cộng đồng đam mê công nghệ, đây là một dự án đầy cảm hứng, khẳng định rằng sự sáng tạo có thể vượt qua mọi rào cản về thời gian và công nghệ. Hãy tiếp tục theo dõi thegioithuthuat.net để cập nhật những khám phá công nghệ độc đáo và mới nhất!
