Chatbot AI on-premises — toàn quyền kiểm soát dữ liệu của bạn
Đối với các doanh nghiệp mà chủ quyền dữ liệu không phải là một lựa chọn mà là một điều kiện tiên quyết, Zentor App cung cấp giải pháp vận hành hoàn toàn tại chỗ. Nền tảng chạy trên cơ sở hạ tầng của riêng bạn — và với việc thực thi AI cục bộ, điều này cũng áp dụng cho chính các mô hình AI.
Trong các ngành như y tế, dịch vụ tài chính, pháp lý hoặc hành chính công, dữ liệu chịu sự bảo vệ đặc biệt theo quy định pháp luật. Ở đây, việc tin tưởng vào nhà cung cấp đám mây là chưa đủ — thường thì việc chuyển dữ liệu ra bên ngoài không được phép về mặt pháp lý hoặc đòi hỏi các cơ sở hợp đồng phức tạp, khó thực thi.
Vận hành on-premises giải quyết vấn đề này tận gốc: khi phần mềm chạy trên hạ tầng của chính bạn, dữ liệu không bao giờ rời khỏi môi trường của bạn. Không có lệnh gọi API đến dịch vụ bên ngoài, không có dữ liệu đo từ xa (telemetry), không chuyển log đến nhà cung cấp. Bạn là bên kiểm soát dữ liệu — và bạn có toàn quyền kiểm soát kỹ thuật cần thiết cho vai trò đó.
Với bản cài đặt Zentor App on-premises, toàn bộ nền tảng — backend, cơ sở dữ liệu, hộp thư đến Omnichannel, cơ sở tri thức, chatbot engine — được vận hành trên máy chủ của chính bạn. Bạn được truy cập các gói triển khai (deployment artifact) và thiết lập môi trường trong trung tâm dữ liệu hoặc đám mây riêng của mình.
Zentor App hỗ trợ cài đặt và cấu hình lần đầu trong khuôn khổ onboarding riêng. Sau khi đưa vào vận hành, trách nhiệm vận hành thuộc về bạn — điều này đúng với mục tiêu tự chịu trách nhiệm hoàn toàn mà các doanh nghiệp chịu quản lý chặt hướng tới.
Vận hành AI cục bộ là việc chạy các mô hình ngôn ngữ trên phần cứng riêng. Các mô hình chạy hoàn toàn trên hạ tầng của chính bạn — không kết nối với dịch vụ AI bên ngoài. Với bản cài đặt Zentor App on-premises, điều này có nghĩa là: ngay cả phần trí tuệ AI của chatbot cũng không rời khỏi hạ tầng của bạn.
Mọi yêu cầu mà chatbot của bạn gửi đến mô hình ngôn ngữ — dù là phân loại yêu cầu của khách hàng, tạo câu trả lời hay trích xuất thông tin từ cơ sở tri thức — đều được xử lý cục bộ. Không có lệnh gọi HTTP đến dịch vụ AI bên ngoài, không truyền dữ liệu, không có đối tác xử lý bên ngoài.
Zentor App hỗ trợ tích hợp sẵn việc chạy mô hình cục bộ làm backend AI. Việc cấu hình — dùng mô hình nào, tham số ra sao — hoàn toàn nằm trong tay bạn.
Tất cả dữ liệu khách hàng, cuộc trò chuyện và mục trong cơ sở tri thức đều nằm trên hạ tầng của bạn, không có ngoại lệ. Không chuyển dữ liệu, không có đối tác xử lý bên ngoài.
Trình chạy AI cục bộ hoạt động trên nhiều loại phần cứng khác nhau. Sự cố của dịch vụ AI đám mây không ảnh hưởng đến khả năng sẵn sàng của chatbot của bạn.
Vận hành tại chỗ là biện pháp kỹ thuật mạnh mẽ nhất để đáp ứng các quy định về bảo mật dữ liệu — mà không cần dựa vào các cam kết hợp đồng.
Bạn tích hợp Zentor App vào các cấu trúc bảo mật hiện có của mình: tường lửa riêng, phân đoạn mạng, chu kỳ vá lỗi và giám sát theo tiêu chuẩn của bạn.
Khả năng sẵn sàng của nền tảng của bạn không phụ thuộc vào khả năng sẵn sàng của các dịch vụ đám mây bên ngoài. Các yêu cầu SLA có thể được đáp ứng nội bộ.
Chatbot AI vận hành tại chỗ đặc biệt quan trọng đối với các ngành mà bảo mật dữ liệu được ưu tiên cao về mặt quy định:
Cả hai lựa chọn đều mang lại mức bảo vệ dữ liệu cao — khác biệt nằm ở mức độ kiểm soát và công sức vận hành:
- Hạ tầng do Zentor App quản lý
- Dữ liệu trên máy chủ EU; kết nối AI bên ngoài chỉ thông qua điều khoản hợp đồng tiêu chuẩn EU
- Ít công sức vận hành cho bạn
- Có sẵn từ gói Starter
- Cập nhật và vá lỗi tự động
- Hoàn toàn trên phần cứng riêng
- Chủ quyền dữ liệu tuyệt đối
- Áp dụng chính sách bảo mật riêng
- Chạy mô hình cục bộ cho các mô hình AI riêng
- Chỉ có trong gói Cá nhân hóa
On-Premises là một phần của gói Cá nhân hóa, gói này còn bao gồm nhiều tính năng khác cho môi trường doanh nghiệp có yêu cầu cao:
- Bao gồm 10 người dùng, bao gồm 1 tenant (mỗi mục đều có thể mở rộng)
- Chạy mô hình cục bộ cho các mô hình ngôn ngữ riêng và Vector-RAG tùy chọn
- Các tùy chọn xác thực nâng cao theo thỏa thuận riêng
- Tích hợp tùy chỉnh qua API của Zentor App
- Thỏa thuận hỗ trợ riêng và thời gian phản hồi xác định
- Hỗ trợ triển khai chuyên biệt và hỗ trợ kỹ thuật khi cài đặt lần đầu
Đối với doanh nghiệp có khối lượng tin nhắn rất lớn và đội ngũ đang phát triển: tìm hiểu thêm về khả năng mở rộng và phân tải tại Chatbot AI doanh nghiệp cho khối lượng yêu cầu cao.
Câu hỏi thường gặp về vận hành tại chỗ
Vận hành tại chỗ là gì?
On-Premises (viết tắt: On-Prem) là việc vận hành phần mềm trên phần cứng và hạ tầng riêng của doanh nghiệp — tại trung tâm dữ liệu nội bộ, đám mây riêng hoặc trên các máy chủ chuyên dụng. Khác với các giải pháp đám mây, không có dữ liệu nào được gửi đến nhà cung cấp bên ngoài: mọi thứ đều nằm dưới sự kiểm soát hoàn toàn của bạn.
Vận hành AI tại chỗ là gì?
Vận hành AI cục bộ là việc chạy các mô hình ngôn ngữ trên phần cứng riêng. Quá trình xử lý AI diễn ra hoàn toàn trên máy chủ của chính bạn — không kết nối với dịch vụ AI bên ngoài. Zentor App hỗ trợ tích hợp sẵn việc chạy mô hình cục bộ làm backend AI cho các bản cài đặt on-premises.
Tôi cần những điều kiện gì để vận hành tại chỗ?
Để cài đặt on-premises, bạn cần hạ tầng máy chủ riêng với đủ tài nguyên cho nền tảng Zentor App và — khi dùng mô hình AI cục bộ — cho việc xử lý AI cục bộ. Yêu cầu phần cứng cụ thể phụ thuộc vào số lượng tenant, khối lượng tin nhắn dự kiến và các mô hình AI được chọn. Những yêu cầu này được xác định trong quá trình onboarding cho gói Cá nhân hóa.
Bắt đầu từ gói nào thì có sẵn vận hành tại chỗ?
Vận hành on-premises chỉ có trong gói Cá nhân hóa. Ngoài ra, gói Cá nhân hóa bao gồm 10 người dùng (có thể mở rộng theo yêu cầu) và 1 tenant (mỗi tenant thêm 39 €/tháng), tích hợp tùy chỉnh, cấu hình RAG nâng cao và các tùy chọn xác thực nâng cao theo thỏa thuận riêng — tối đa 899 €/tháng, báo giá trước khi thanh toán.
Tôi có thể sử dụng các mô hình ngôn ngữ riêng không?
Có. Trong gói Cá nhân hóa với khả năng thực thi mô hình cục bộ, bạn có thể tự do lựa chọn các mô hình ngôn ngữ muốn sử dụng — miễn là chúng chạy được trên hạ tầng AI cục bộ đã chọn. Bạn không bị ràng buộc vào một mô hình cụ thể. Điều này mang lại cho bạn sự linh hoạt để lựa chọn và thay đổi mô hình theo yêu cầu hiệu suất, giấy phép hoặc phù hợp với lĩnh vực cụ thể khi cần thiết.
Quan tâm đến vận hành tại chỗ?
Hãy liên hệ với chúng tôi về các yêu cầu của bạn. Trong cuộc họp demo, chúng tôi sẽ xác định xem Zentor App On-Premises có thể được cấu hình cho môi trường của bạn hay không và theo cách nào.
Trang tham khảo thêm:
Xem thêm trong Trung tâm trợ giúp