Chatbot AI on-premises — toàn quyền kiểm soát dữ liệu của bạn
Đối với những doanh nghiệp coi chủ quyền dữ liệu là điều kiện tiên quyết, Zentor App cung cấp nền tảng dưới dạng bản cài đặt On-Premises được triển khai riêng. Khi đó, Zentor App chạy trên hạ tầng của chính bạn – và với một mô hình AI vận hành cục bộ, việc xử lý AI cũng diễn ra ngay tại đó.
Trong các ngành như y tế, dịch vụ tài chính, pháp lý hoặc hành chính công, dữ liệu chịu sự bảo vệ đặc biệt theo quy định pháp luật. Ở đây, việc tin tưởng vào nhà cung cấp đám mây là chưa đủ — thường thì việc chuyển dữ liệu ra bên ngoài không được phép về mặt pháp lý hoặc đòi hỏi các cơ sở hợp đồng phức tạp, khó thực thi.
Vận hành On-Premises giải quyết đúng vấn đề này: phần mềm chạy trên hạ tầng của chính bạn và bạn quyết định những kết nối nào ra bên ngoài được phép tồn tại. Với mô hình AI cục bộ, các cuộc hội thoại, cơ sở tri thức và dữ liệu khách hàng chỉ được xử lý trong môi trường của bạn. Các dịch vụ bên ngoài như gửi email, SMS hay ứng dụng nhắn tin chỉ được kết nối khi bạn muốn sử dụng. Bạn vẫn là bên kiểm soát dữ liệu theo quy định bảo vệ dữ liệu – với quyền kiểm soát kỹ thuật cần thiết cho vai trò đó.
Với bản cài đặt Zentor App On-Premises, backend, cơ sở dữ liệu, hộp thư đa kênh, cơ sở tri thức, công cụ chatbot và tự động hóa đều chạy trên máy chủ của chính bạn. Để làm được điều đó, Zentor cung cấp cho bạn một gói cài đặt được điều chỉnh phù hợp với doanh nghiệp của bạn, để bạn vận hành trong trung tâm dữ liệu riêng hoặc trên đám mây riêng.
Zentor hỗ trợ bạn trong quá trình cài đặt và cấu hình ban đầu. Bạn cài đặt các bản cập nhật bằng công cụ cập nhật đi kèm; công cụ này tạo bản sao lưu trước và tự động khôi phục trạng thái trước đó nếu xảy ra lỗi. Giấy phép được kiểm tra định kỳ – trực tuyến hoặc, với các môi trường cách ly hoàn toàn, không cần kết nối Internet. Sau khi đưa vào vận hành, việc vận hành hệ thống thuộc trách nhiệm của bạn.
Vận hành AI cục bộ có nghĩa là mô hình ngôn ngữ chạy trên phần cứng của chính bạn. Để làm được điều đó, Zentor App kết nối với một framework AI cục bộ do bạn vận hành trong hạ tầng của mình. Nhờ vậy, quá trình xử lý AI của chatbot cũng diễn ra trong môi trường của bạn.
Khi đó, mọi yêu cầu gửi tới mô hình ngôn ngữ – dù là phân loại yêu cầu của khách hàng, soạn câu trả lời hay tìm kiếm trong cơ sở tri thức – đều được xử lý cục bộ. Không cần đến nhà cung cấp AI bên ngoài.
Việc sử dụng mô hình nào và cấu hình ra sao sẽ được chúng tôi thống nhất cùng bạn trong giai đoạn onboarding. Bạn sẽ chuẩn bị phần cứng phù hợp, đặc biệt là phần cứng cho việc xử lý AI.
Với mô hình AI cục bộ, dữ liệu khách hàng, các cuộc hội thoại và cơ sở tri thức luôn nằm trên hạ tầng của bạn. Bạn tự quyết định có kết nối thêm dịch vụ bên ngoài nào hay không.
Mô hình AI vận hành cục bộ hoạt động độc lập với các dịch vụ AI đám mây. Sự cố của các dịch vụ đó không ảnh hưởng đến chatbot của bạn.
Vận hành trong môi trường của chính bạn là một biện pháp kỹ thuật mạnh mẽ để đáp ứng các yêu cầu bảo vệ dữ liệu, đồng thời bổ sung cho các thỏa thuận hợp đồng.
Bạn tích hợp Zentor App vào các cấu trúc bảo mật hiện có của mình: tường lửa riêng, phân đoạn mạng, chu kỳ vá lỗi và giám sát theo tiêu chuẩn của bạn.
Tính sẵn sàng của nền tảng không phụ thuộc vào các dịch vụ đám mây bên ngoài, mà phụ thuộc vào hạ tầng và quy trình vận hành của chính bạn.
Chatbot AI vận hành tại chỗ đặc biệt quan trọng đối với các ngành mà bảo mật dữ liệu được ưu tiên cao về mặt quy định:
Cả hai lựa chọn đều mang lại mức bảo vệ dữ liệu cao — khác biệt nằm ở mức độ kiểm soát và công sức vận hành:
- Hạ tầng do Zentor App quản lý
- Dữ liệu trên máy chủ EU; kết nối AI bên ngoài chỉ thông qua điều khoản hợp đồng tiêu chuẩn EU
- Ít công sức vận hành cho bạn
- Có sẵn từ gói Starter
- Cập nhật và vá lỗi tự động
- Hoàn toàn trên phần cứng riêng
- Toàn bộ dữ liệu được lưu trữ trong môi trường của bạn
- Áp dụng chính sách bảo mật riêng
- Chạy mô hình cục bộ cho các mô hình AI riêng
- Chỉ có trong gói Cá nhân hóa
On-Premises là một phần của gói Cá nhân hóa, gói này còn bao gồm nhiều tính năng khác cho môi trường doanh nghiệp có yêu cầu cao:
- Bao gồm 10 người dùng, bao gồm 1 tenant (mỗi mục đều có thể mở rộng)
- Chạy mô hình cục bộ cho các mô hình ngôn ngữ riêng và Vector-RAG tùy chọn
- Các tùy chọn xác thực nâng cao theo thỏa thuận riêng
- tích hợp hệ thống riêng theo thỏa thuận
- hỗ trợ theo thỏa thuận riêng
- Hỗ trợ triển khai chuyên biệt và hỗ trợ kỹ thuật khi cài đặt lần đầu
Đối với doanh nghiệp có khối lượng tin nhắn rất lớn và đội ngũ đang phát triển: tìm hiểu thêm về khả năng mở rộng và phân tải tại Chatbot AI doanh nghiệp cho khối lượng yêu cầu cao.
Câu hỏi thường gặp về vận hành tại chỗ
Vận hành tại chỗ là gì?
On-Premises (viết tắt: On-Prem) là việc vận hành phần mềm trên phần cứng và hạ tầng của chính doanh nghiệp – trong trung tâm dữ liệu riêng, đám mây riêng hoặc trên các máy chủ chuyên dụng. Khác với các giải pháp đám mây, bạn tự quyết định dữ liệu nào được rời khỏi môi trường của mình; với mô hình AI cục bộ, các cuộc hội thoại và cơ sở tri thức hoàn toàn nằm trong tay bạn.
Vận hành AI tại chỗ là gì?
Vận hành AI cục bộ là việc chạy các mô hình ngôn ngữ trên phần cứng của chính bạn. Quá trình xử lý AI diễn ra trên máy chủ của bạn mà không cần nhà cung cấp AI bên ngoài. Để làm được điều đó, Zentor App kết nối với một framework AI cục bộ do bạn vận hành trong hạ tầng của mình.
Tôi cần những điều kiện gì để vận hành tại chỗ?
Để cài đặt on-premises, bạn cần hạ tầng máy chủ riêng với đủ tài nguyên cho nền tảng Zentor App và — khi dùng mô hình AI cục bộ — cho việc xử lý AI cục bộ. Yêu cầu phần cứng cụ thể phụ thuộc vào số lượng tenant, khối lượng tin nhắn dự kiến và các mô hình AI được chọn. Những yêu cầu này được xác định trong quá trình onboarding cho gói Cá nhân hóa.
Bắt đầu từ gói nào thì có sẵn vận hành tại chỗ?
Vận hành On-Premises chỉ có trong gói Cá nhân hóa. Gói Cá nhân hóa còn bao gồm 10 người dùng (có thể mở rộng theo yêu cầu) và 1 tenant (mỗi tenant bổ sung 39 €/tháng), tích hợp hệ thống riêng, cấu hình RAG mở rộng và các tùy chọn xác thực mở rộng theo thỏa thuận – tối đa 899 €/tháng, có báo giá trước khi thanh toán.
Tôi có thể sử dụng các mô hình ngôn ngữ riêng không?
Có. Trong gói Cá nhân hóa với khả năng thực thi mô hình cục bộ, bạn có thể tự do lựa chọn các mô hình ngôn ngữ muốn sử dụng — miễn là chúng chạy được trên hạ tầng AI cục bộ đã chọn. Bạn không bị ràng buộc vào một mô hình cụ thể. Điều này mang lại cho bạn sự linh hoạt để lựa chọn và thay đổi mô hình theo yêu cầu hiệu suất, giấy phép hoặc phù hợp với lĩnh vực cụ thể khi cần thiết.
Quan tâm đến vận hành tại chỗ?
Hãy liên hệ với chúng tôi về các yêu cầu của bạn. Trong cuộc họp demo, chúng tôi sẽ xác định xem Zentor App On-Premises có thể được cấu hình cho môi trường của bạn hay không và theo cách nào.
Trang tham khảo thêm:
Xem thêm trong Trung tâm trợ giúp