Tự xây dựng trợ lý lập trình AI ngay tại nhà: Không cần GitHub Copilot!

Thực hành: Trợ lý lập trình AI đang ngày càng thu hút sự chú ý như một ứng dụng tiềm năng của trí tuệ nhân tạo, đặc biệt sau khi Microsoft ra mắt GitHub Copilot. Tuy nhiên, nếu bạn không muốn chia sẻ mã nguồn của mình với Microsoft hoặc trả 10 đô la mỗi tháng cho dịch vụ này, bạn hoàn toàn có thể tự xây dựng một trợ lý lập trình cho riêng mình.

Mặc dù Microsoft là một trong những công ty đầu tiên thương mại hóa và tích hợp trợ lý lập trình AI vào IDE, nhưng đây không phải là lựa chọn duy nhất. Trên thực tế, có rất nhiều mô hình ngôn ngữ lớn (LLM) được huấn luyện chuyên biệt cho việc tạo mã.

Hơn nữa, rất có thể chiếc máy tính bạn đang sử dụng đủ khả năng để chạy các mô hình này. Vấn đề nằm ở việc tích hợp chúng vào IDE một cách hiệu quả.

Đó là lúc các ứng dụng như Continue phát huy tác dụng. Trợ lý lập trình mã nguồn mở này được thiết kế để kết nối với các IDE phổ biến như JetBrains hoặc Visual Studio Code và các trình chạy LLM quen thuộc như Ollama, Llama.cpp và LM Studio.

Giống như các trợ lý lập trình khác, Continue hỗ trợ hoàn thiện và tạo mã, cũng như tối ưu hóa, chú thích và tái cấu trúc mã cho các trường hợp sử dụng khác nhau. Ngoài ra, Continue còn có chatbot tích hợp với chức năng RAG, cho phép bạn "trò chuyện" với cơ sở mã của mình.

Bài viết này sẽ hướng dẫn bạn sử dụng Continue với Ollama. Tuy nhiên, ứng dụng này cũng hoạt động với một số mô hình độc quyền – bao gồm OpenAI và Anthropic – thông qua API của họ, nếu bạn muốn trả phí cho mỗi token thay vì phí hàng tháng cố định.

Yêu cầu:

Máy tính: Một hệ thống có bộ xử lý tương đối mới, lý tưởng nhất là card đồ họa Nvidia, AMD hoặc Intel có ít nhất 6GB vRAM. Đối với người dùng Mac, bất kỳ hệ thống Apple Silicon nào, bao gồm cả M1, đều hoạt động tốt – nhưng nên có ít nhất 16GB RAM.
Ollama: Bạn cần cài đặt và chạy Ollama trên máy. Tham khảo hướng dẫn cài đặt tại đây (tiếng Anh).
IDE tương thích: Continue hỗ trợ cả JetBrains và Visual Studio Code (hoặc VSCodium - bản build mã nguồn mở).

Cài đặt Continue:

Mở VSCodium, vào mục Extensions và tìm kiếm "Continue".
Sau khi cài đặt, Continue sẽ khởi chạy trình hướng dẫn thiết lập, yêu cầu bạn chọn giữa việc lưu trữ mô hình cục bộ hoặc sử dụng API của bên thứ ba. Chọn "Local models".
Continue sẽ được cấu hình để sử dụng các mô hình sau:
- Llama 3 8B: LLM đa năng của Meta, được sử dụng để chú thích, tối ưu hóa và/hoặc tái cấu trúc mã.
- Nomic-embed-text: Mô hình nhúng được sử dụng để lập chỉ mục cơ sở mã cục bộ của bạn, cho phép bạn tham chiếu cơ sở mã khi nhắc chatbot.
- Starcoder2:3B: Mô hình tạo mã của BigCode, cung cấp chức năng tự động hoàn thành tab của Continue.
Nếu Continue bỏ qua trình hướng dẫn, bạn có thể tự tải xuống các mô hình này bằng Ollama: ollama pull llama3 ollama pull nomic-embed-text ollama pull starcoder2:3b

Cảnh báo về dữ liệu telemetry:

Theo mặc định, Continue thu thập dữ liệu telemetry ẩn danh bao gồm:

Bạn chấp nhận hoặc từ chối đề xuất (không bao gồm mã hoặc lời nhắc);
Tên của mô hình và lệnh được sử dụng;
Số lượng token được tạo;
Tên hệ điều hành và IDE của bạn;
Lượt xem trang.

Bạn có thể tắt tính năng này bằng cách sửa đổi tệp .continue trong thư mục chính hoặc bỏ chọn "Continue: Telemetry Enabled" trong cài đặt VS Code.

Sử dụng Continue:

Tạo đoạn mã: Nhấn Ctrl-I hoặc Command-I và nhập lời nhắc của bạn. Continue sẽ tải mô hình liên quan và hiển thị đoạn mã được đề xuất.
Chỉnh sửa mã: Chọn đoạn mã, nhấn Ctrl-I và nhập lời nhắc để tái cấu trúc, chú thích, tối ưu hóa,… Continue sẽ đề xuất thay đổi với mã mới được đánh dấu màu xanh lục và mã bị xóa được đánh dấu màu đỏ.
Tự động hoàn thành tab: Khi bạn gõ, Continue sẽ tự động cung cấp các đề xuất để hoàn thành chuỗi hoặc hàm. Chấp nhận đề xuất bằng cách nhấn Tab.
Chatbot: Sử dụng các lệnh sau để tương tác với chatbot:
- @docs [tên ứng dụng/dịch vụ] [câu hỏi] để tìm kiếm tài liệu.
- @codebase [câu hỏi] để truy vấn thư mục làm việc.
- @files [chọn tệp] để thêm tệp vào ngữ cảnh của mô hình.
- Ctrl-L để thêm mã đã chọn vào chatbot.
- Ctrl-Shift-R để gửi lỗi từ terminal emulator của VS Code đến chatbot.

Thay đổi mô hình:

Bạn có thể thay đổi mô hình được sử dụng bằng cách chọn từ menu lựa chọn của Continue hoặc sử dụng phím tắt Ctrl-'. Để thay đổi mô hình tự động hoàn thành tab, bạn cần sửa đổi tệp cấu hình của plugin.

Tinh chỉnh mô hình mã tùy chỉnh:

Continue tự động thu thập dữ liệu về cách bạn viết mã và có thể được sử dụng để tinh chỉnh các mô hình tùy chỉnh dựa trên phong cách và quy trình làm việc của bạn. Dữ liệu này được lưu trữ cục bộ và không được bao gồm trong dữ liệu telemetry.

Tự xây dựng trợ lý lập trình AI ngay tại nhà: Không cần GitHub Copilot!