Cách triển khai chatbot GPT trên K8s với giao diện Gradio

Các mô hình ngôn ngữ lớn (LLM) đang chen sâu vào cuộc sống của chúng ta. Ý tôi không phải là theo nghĩa đen (ít nhất là trong thời điểm hiện tại), mà đúng hơn là có vẻ như mỗi ngày đều có vô số mô hình và ứng dụng mới xuất hiện. Sự khởi đầu tưởng chừng…

Triển khai VMware Tanzu for Kubernetes Operations trên Dell VxRail

VMware Tanzu for Kubernetes Operations trên Dell VxRail là một giải pháp kết hợp chung của Dell và VMware, được thiết kế để chuẩn hóa việc sử dụng Kubernetes. Việc áp dụng Container và Kubernetes đã tăng trưởng siêu tốc trong vòng hai năm qua, với số lượng các cluster được triển khai bởi mỗi…

Nên chạy container của bạn ở đâu? Máy chủ vật lý hay máy ảo?

Bài viết xem xét sự khác biệt chính giữa việc chạy các container trong môi trường ảo hóa và trên các máy chủ vật lý và tập trung vào các điểm đánh đổi và quyết định chính. Container là một đối thủ quan trọng và đang nổi lên như một phương thức triển khai ứng dụng. Mặc…

Kubernetes: Giới thiệu, kiến trúc và cách thức hoạt động

Kubernetes, hoặc k8s là một nền tảng mã nguồn mở tự động hoá việc quản lý, scaling và triển khai ứng dụng dưới dạng container hay còn gọi là Container orchestration engine. Nó loại bỏ rất nhiều các quy trình thủ công liên quan đến việc triển khai và mở rộng các containerized applications. Gần đây, nhiều ứng…

Điều phối container là gì?

Hệ thống điều phối container (container orchestration) tự động hóa việc triển khai, quản lý, nhân rộng và kết nối mạng của container. Các doanh nghiệp cần triển khai và quản lý hàng trăm hoặc hàng nghìn container và máy chủ Linux® có thể được hưởng lợi từ việc điều phối container. Hệ thống điều phối container có thể được…

Hướng dẫn cài đặt Docker Community Edition và Docker Compose trên Ubuntu, Windows và MacOS

Hiện nay Docker có 2 phiên bản chính thức là Docker Community Edition (CE) và Docker Enterprise Edition (EE) Mục lục 1 Docker Community Edition (CE) 2 Docker Enterprise Edition (EE) 3 Tóm lại đối với mình nên sử dụng Docker phiên bản nào? 4 Cài đặt Docker CE (Docker Engine – Community) trên Ubuntu 16.04 4.1 Yêu cầu phiên…

So sánh nhanh: OpenShift, Kubernetes và Docker

Kubernetes, OpenShift hay Docker là tốt nhất cho công ty của bạn? Bài viết này nêu ra một số điểm chính giữa 3 nền tảng container để bạn cân nhắc. Năm 2019, chúng ta đã chứng kiến sự bùng nổ lớn của container và microservice trong phân phối ứng dụng doanh nghiệp. Các container đã…