Chuyển tới nội dung chính

15 bài viết được gắn thẻ "Large Language Model (LLM)"

Large Language Model (LLM) là một mô hình ngôn ngữ lớn được huấn luyện trên một lượng lớn dữ liệu ngôn ngữ tự nhiên.

Xem tất cả thẻ

Headroom, RTK, Caveman: Các Công Cụ Tiết Kiệm Token Cho Coding Agent

· 21 phút để đọc
ManhPT
Just another developer!

Coding agent đang bước vào giai đoạn mà chi phí không chỉ nằm ở model nào rẻ hơn, mà ở việc agent nhìn thấy bao nhiêu thứ không cần thiết. Một lần pytest dài, một git diff quá rộng, một log Kubernetes ồn ào, một file CLAUDE.md phình dần qua nhiều tháng — tất cả đều biến thành input tokens, rồi tiếp tục bị kéo theo ở các vòng sau.

Vì vậy, vài tháng gần đây xuất hiện một lớp công cụ mới: không thay model, không thay IDE, mà đứng giữa agent và context để cắt bớt token. Bài này tập trung vào đúng nhóm đó: Headroom, RTK, Caveman, kèm một số tool lân cận như Save The Tokens và Claw Compactor.

Domain-Aware RAG: Khi Retrieval-Augmented Generation Rời Phòng Lab Bước Vào Thực Tiễn

· 18 phút để đọc
ManhPT
Just another developer!

RAG (Retrieval-Augmented Generation) đã đi được một chặng đường dài từ những ngày đầu "nhét context vào prompt". Năm 2025-2026 chứng kiến sự bùng nổ của các hệ thống RAG chuyên biệt hóa theo từng domain — nơi retrieval không còn là bài toán "tìm document giống nhất", mà là bài toán "tìm thông tin hữu ích nhất cho một ngữ cảnh chuyên môn cụ thể".

Bài viết này khảo sát 22 paper mới nhất về domain-aware RAG trên 8 lĩnh vực, rút ra những insight chung và bài học thực tiễn cho ai đang xây dựng hệ thống RAG trong doanh nghiệp.

AI Ngày Càng Đắt Đỏ: Khi Token Ăn Hết Ngân Sách Mà ROI Vẫn Là Dấu Hỏi

· 15 phút để đọc
ManhPT
Just another developer!

Cuối tháng 5/2026, một con số gây chấn động làng công nghệ bị rò rỉ: Anthropic đang trả 1,25 tỷ USD mỗi tháng cho SpaceX — chỉ riêng tiền compute. Nhưng câu chuyện lớn hơn không nằm ở Anthropic. Nó nằm ở hàng nghìn doanh nghiệp đang lặng lẽ đốt ngân sách vào AI token mỗi tháng — mà không ai dám chắc khoản đầu tư ấy có thực sự sinh lời.

Bài viết này không bàn về cuộc đua của các ông lớn. Nó bàn về bạn: một doanh nghiệp đang trả tiền token hàng tháng, và câu hỏi khó chịu nhất — liệu số tiền đó có đáng không?

AI Trung Quốc miễn phí 100%: Chiến lược "vũ khí hóa" sự hào phóng?

· 9 phút để đọc
ManhPT
Just another developer!

Khi ChatGPT Plus lên $200/tháng, DeepSeek và Qwen vẫn không có nút trả tiền. Mở kho ứng dụng, bạn thấy ChatGPT với nút Nâng cấp lên Plus ngay màn hình chính. Claude tương tự: $20/tháng cho gói Pro. Google Gemini Advanced: $19.99/tháng.

Còn DeepSeek và Qwen? Không có nút nào hết. Không thuê bao, không tường phí, không gói cao cấp. Mọi tính năng đều miễn phí, kể cả model mới nhất.

Câu hỏi hiển nhiên: tiền đâu mà họ tồn tại? Và quan trọng hơn: đây có phải là một nước cờ địa chính trị được tính toán kỹ lưỡng?

Cảm Giác Dùng DeepSeek V4 Với OpenClaw: Rẻ Đến Mức Thấy… Có Lỗi

· 9 phút để đọc
ManhPT
Just another developer!

Tóm tắt — Tôi đã chuyển OpenClaw sang dùng DeepSeek V4 được vài ngày. Cảm giác đầu tiên: "hình như billing bị lỗi". Kiểm tra kỹ thì hóa ra không — DeepSeek thực sự rẻ đến mức đó. Bài viết này chia sẻ trải nghiệm thực tế, phân tích bảng giá chính thức (cập nhật 29/4/2026), cơ chế disk cache tự động giúp giảm thêm 80-90% chi phí input, và so sánh cụ thể với GPT-5.5 lẫn Claude Opus.

Gemini Hết Thời 'Ngon Bổ Rẻ': Trung Quốc Đang Thắng Cuộc Đua AI Mở Và Cuộc Cạnh Tranh Ngầm Giữa Các Quốc Gia

· 20 phút để đọc
ManhPT
Just another developer!

Tóm tắt — Tháng 4/2026 đánh dấu một bước ngoặt lớn trong làng AI. Google chính thức khai tử gói miễn phí Gemini Pro, siết chặt hạn ngạch Flash, và áp trần chi tiêu bắt buộc — chấm dứt kỷ nguyên "ngon bổ rẻ" từng khiến Gemini trở thành lựa chọn số một cho lập trình viên. Cùng lúc đó, chỉ 23 ngày sau, DeepSeek tung ra V4 với open-weight, giấy phép MIT, benchmark sát Opus 4.7, giá chỉ bằng 1/6. Bài viết này phân tích vì sao đây không chỉ là câu chuyện về giá cả — mà là một cuộc chiến địa chính trị ngầm, nơi mã nguồn mở được dùng như vũ khí chiến lược, và Trung Quốc đang dần chiếm ưu thế.

Agent Skills sẽ biến mất, hay co lại thành một layer ổn định?

· 11 phút để đọc
ManhPT
Just another developer!

Tôi nghĩ Agent Skills đang ở đúng một điểm rất thú vị của lịch sử AI ứng dụng. Chúng vừa giống một cái nạng tạm thời, vừa giống một lớp hạ tầng lâu dài. Tạm thời, vì model ngày càng giỏi hơn và sẽ hấp thụ dần nhiều thứ hôm nay còn phải viết ra ngoài. Lâu dài, vì có một nhóm tri thức vận hành mà tôi không tin nên bị nhét hết vào base model.

vLLM vs Hugging Face TEI cho embedding và rerank: nếu chỉ xét performance thì chọn gì?

· 12 phút để đọc
ManhPT
Just another developer!

Nếu đang dựng một stack RAG hoặc semantic search, câu hỏi thực tế không còn là “có chạy được embedding không”, mà là: nếu embedding và rerank là workload chuyên biệt, cái nào cho profile performance hợp lý hơn để đưa vào production. Hai cái tên thường được đưa lên bàn cân là vLLMHugging Face Text Embeddings Inference (TEI).

Điểm quan trọng là cả hai đều đã hỗ trợ embedding và rerank. Nhưng nếu đọc kỹ docs chính thức, có thể thấy chúng không tối ưu cho cùng một mục tiêu. TEI được định vị theo hướng service chuyên cho embedding/rerank, còn vLLM được định vị theo hướng inference runtime hợp nhất. Chính khác biệt đó là thứ đáng dùng để ra quyết định kiến trúc.

Vì sao tôi không còn dùng Claude làm backend delegate cho OpenClaw

· 12 phút để đọc
ManhPT
Just another developer!

Claude, Codex và bài học thực chiến khi dùng harness

Đây không phải một bài so benchmark giữa Claude và Codex. Đây là một bài học vận hành. Sau khi bị khóa 2 tài khoản Claude — một Pro và một Max X20 — vì dùng OpenClaw để delegate task cho Claude Code, tôi phải đọc lại chính sách, điều khoản và cách mỗi bên đang productize coding agent của họ. Kết luận rút ra khá rõ: Claude vẫn rất mạnh, nhưng không còn là lựa chọn tôi muốn đặt sau một lớp harness. Nếu muốn làm việc theo kiểu agent runtime, tôi tin OpenClaw + Codex/OpenCode thực dụng hơn ở thời điểm hiện tại.

4 tín hiệu cho thấy cuộc chơi AI đang đổi chiều

· 9 phút để đọc
ManhPT
Just another developer!

Tín hiệu chiến lược từ bản tin AI buổi sáng

Nhìn bề ngoài, Claude Code, Model Spec, OpenAI-style API, S3 tooling, tranh luận về coding agent hay các repo mới nổi trên GitHub có vẻ là những mẩu tin rời rạc. Nhưng nếu nhìn ở góc chiến lược sản phẩm, chúng đang ghép thành một bức tranh rõ ràng hơn nhiều.