Nâng cấp bảo mật AI linh hoạt cho mọi môi trường số quy mô lớn

AI ở khắp mọi nơi, không chỉ nằm ở trung tâm dữ liệu

Cisco vừa công bố sự mở rộng đáng kể cho giải pháp Secure AI Factory kết hợp cùng NVIDIA, mang đến cho khách hàng một khuôn khổ triển khai AI trên toàn bộ hạ tầng - từ các trung tâm dữ liệu đến các môi trường biên nơi dữ liệu được tạo và các quyết định được đưa ra.

Theo đó, các doanh nghiệp, nhà cung cấp neocloud (tạm dịch: loại hình hạ tầng đám mây thế hệ mới, chuyên cung cấp GPU và tài nguyên tính toán hiệu năng cao cho các ứng dụng AI), sovereign cloud (tạm dịch: đám mây chủ quyền) và các nhà cung cấp dịch vụ hiện có thể đưa AI từ giai đoạn thử nghiệm (pilot) sang triển khai ở quy mô sản xuất mà không cần phải ghép nối các hệ thống rời rạc.

Giải pháp này giúp rút ngắn thời gian triển khai từ vài tháng xuống còn vài tuần, đồng thời tích hợp các yếu tố bảo mật ngay khi bắt đầu.

“Phần lớn các tổ chức đều nhận thấy tiềm năng của AI trong việc chuyển đổi hoạt động kinh doanh, tuy nhiên vẫn đang tìm cách triển khai công nghệ này một cách an toàn và ở quy mô lớn”, ông Chuck Robbins, Chủ tịch kiêm Tổng Giám đốc Cisco, cho biết.

“Thông qua hợp tác với NVIDIA, chúng tôi đang giải quyết thách thức này bằng một kiến trúc thiết lập mới với tiêu chuẩn cao hơn về hiệu năng, đồng thời giúp việc triển khai, vận hành và bảo mật hạ tầng AI trở nên đơn giản hơn”.

Hoạt động suy luận AI (AI inference) ngày càng diễn ra tại chính nơi dữ liệu được tạo ra và các quyết định cần được đưa ra ngay lập tức - từ khu vực điều trị trong bệnh viện cho đến việc phân tích video theo thời gian thực tại nhà máy, nhằm đảm bảo an toàn cho người lao động. Thực tế này đang định hình lại cách xây dựng hạ tầng công nghệ, khi các tác vụ suy luận AI cần được vận hành ngay tại chỗ - gần hơn với dữ liệu, thiết bị và thời điểm cần đưa ra quyết định.

- Thúc đẩy chuyển đổi tại biên của doanh nghiệp: Việc hỗ trợ GPU NVIDIA RTX PRO™ 4500 Blackwell Server Edition trên các nền tảng Cisco UCS và Cisco Unified Edge giúp doanh nghiệp vận hành các khối lượng công việc AI quan trọng ngay tại biên, mà không cần hạ tầng phần cứng quy mô trung tâm dữ liệu tiêu tốn nhiều năng lượng và không gian.

- Thúc đẩy chuyển đổi tại biên của nhà cung cấp dịch vụ: Cisco công bố thiết kế tham chiếu Cisco AI Grid với NVIDIA, kết hợp sức mạnh của Cisco Mobility Services Platform (Tạm dịch: Nền tảng Dịch vụ Di động Cisco) cùng GPU NVIDIA RTX PRO Blackwell Series. Giải pháp này cho phép các nhà cung cấp dịch vụ tận dụng hạ tầng mạng hiện có để cung cấp các dịch vụ quản lý cho ứng dụng AI tại biên, với độ tin cậy đạt chuẩn nhà mạng và đảm bảo yêu cầu về chủ quyền dữ liệu.

Nâng cao hiệu năng và hiệu quả vận hành cho các nhà máy AI với quy mô lớn

Tiếp nối các hệ thống mới ra mắt gần đây, được trang bị Cisco Silicon One G300 cho kiến trúc scale-out (tạm dịch: mở rộng theo chiều ngang) và P200 cho kiến trúc scale-across (tạm dịch: mở rộng đa hệ thống/ kết nối nhiều cụm hạ tầng), Cisco tiếp tục nâng cao hiệu năng hạ tầng, đồng thời đơn giản hóa và tăng tốc quá trình triển khai.

Hiệu năng thế hệ mới: Các bộ chuyển mạch tốc độ cao mới nhất của Cisco được thiết kế để đáp ứng những khối lượng công việc AI đòi hỏi cao nhất, bao gồm mẫu Cisco N9100 mới với băng thông 102,4 Tbps, được trang bị chip chuyển mạch Ethernet NVIDIA Spectrum-6. Được bổ sung vào dòng N9100 800G, hiện thiết bị này đã được thương mại hóa rộng rãi, sử dụng chip chuyển mạch Ethernet NVIDIA Spectrum-4.

Triển khai nhanh chóng: Cisco Nexus Hyperfabric, hiện là một phần của Cisco Nexus One, sẽ hỗ trợ các bộ chuyển mạch Cisco N9000 Series, bao gồm dòng N9100 sử dụng chip Ethernet NVIDIA Spectrum-X.

Nhờ đó, các tổ chức có thể đơn giản hóa quá trình tích hợp hạ tầng vốn phức tạp với nhiều nhà cung cấp, đồng thời chuyển sang giải pháp toàn diện (full-stack) và rút ngắn thời gian triển khai và giảm gánh nặng vận hành cho đội ngũ CNTT.

Các doanh nghiệp đang xây dựng nhà máy AI quy mô lớn hiện có hai lộ trình triển khai đã được kiểm chứng để lựa chọn: một nhà máy AI dựa trên kiến trúc tham chiếu tuân thủ chương trình NVIDIA Cloud Partner (NCP) và một Cisco Cloud Reference Architecture được xây dựng trên nền tảng Cisco Silicon One, tuân theo cùng các nguyên tắc thiết kế.

Bảo mật được tích hợp ở mọi lớp

Trong bối cảnh các mô hình AI ngày càng trở thành tài sản có giá trị cao và các tác nhân AI ngày càng hoạt động tự chủ hơn, có khả năng thực hiện hành động, đưa ra quyết định và tương tác với các tác nhân khác, yếu tố bảo mật không thể chỉ được xem xét sau cùng.

Cisco đang tích hợp các cơ chế bảo vệ ngay trong kiến trúc Secure AI Factory kết hợp cùng NVIDIA nhằm bảo vệ hệ thống trước cả các mối đe dọa từ bên ngoài lẫn những hành vi bất thường từ các AI agent, bao gồm:

- Bảo vệ hạ tầng AI: Mức độ an toàn của AI phụ thuộc trực tiếp vào phần cứng vận hành nó - và các tác nhân tấn công hiểu rất rõ điều này. Cisco Hybrid Mesh Firewall cung cấp các chính sách bảo mật nhất quán trên nhiều điểm thực thi khác nhau, từ các bộ chuyển mạch mạng, các tác nhân trên khối lượng công việc cho đến nhiều thành phần khác. Phạm vi bảo vệ rộng hơn đồng nghĩa với việc giảm thiểu các lỗ hổng mà kẻ tấn công có thể khai thác.

Hiện nay, Cisco đang mở rộng giải pháp Cisco Hybrid Mesh Firewall nhằm cho phép thực thi chính sách bảo mật trên các DPU NVIDIA BlueField được tích hợp trong các máy chủ GPU NVIDIA kết nối với hạ tầng Cisco Nexus One. Nhờ đó, các mối đe dọa có thể được chặn ngay ở cấp độ máy chủ trước khi tiếp cận dữ liệu của tổ chức. Kết quả là các khối lượng công việc AI có thể được bảo vệ từ bên trong hệ thống, mà không ảnh hưởng đến hiệu năng vận hành.

- Bảo mật tác nhân AI: Cisco AI Defense cung cấp các năng lực bảo mật cho mô hình AI, kiểm thử lỗ hổng tự động, đồng thời bổ sung các cơ chế rào chắn bảo vệ, được thiết kế riêng cho các tác nhân AI hoạt động tại edge thông qua tích hợp với NVIDIA NeMo Guardrails, một thành phần của bộ phần mềm NVIDIA AI Enterprise. Điều này giúp các nhà phát triển AI và đội ngũ bảo mật chủ động ứng phó với các mối đe dọa mới, đồng thời duy trì sự tin cậy đối với các hệ thống AI.

Trong bối cảnh sự triển khai AI ngày càng mang tính phân tán, các tác nhân tại các điểm edge thường tương tác với các tác nhân ở lõi hệ thống để hoàn thành tác vụ và thực thi quy trình. AI Defense, với vai trò là một phần của Cisco Secure AI Factory kết hợp với NVIDIA, nay được mở rộng nhằm bảo mật cả các tương tác agent-to-agent (A2A) này.

Ông Jensen Huang, Nhà sáng lập kiêm Tổng Giám đốc NVIDIA chia sẻ: “Các nhà máy AI (AI factory) đang thúc đẩy quá trình chuyển đổi trong mọi ngành công nghiệp và yếu tố bảo mật cần được tích hợp ở mọi lớp - từ phần cứng đến phần mềm - nhằm bảo vệ dữ liệu, ứng dụng và hạ tầng. NVIDIA và Cisco đang cùng xây dựng nền tảng hạ tầng AI an toàn từ lõi đến biên (core-to-edge), giúp doanh nghiệp tự tin mở rộng năng lực AI.”

Tăng cường bảo mật cho quá trình phát triển tác nhân AI trong doanh nghiệp

Tiếp nối cam kết tích hợp bảo mật vào mọi lớp của hạ tầng AI cũng như agentic workforce (tạm dịch: lực lượng lao động tác nhân AI), Cisco cũng công bố Cisco AI Defense sẽ hỗ trợ và bảo mật các môi trường chạy OpenShell của NVIDIA - một phần của NVIDIA Agent Toolkit - thông qua việc bổ sung các cơ chế kiểm soát và rào chắn bảo vệ nhằm quản lý hoạt động của các tác nhân AI và các hành động do chúng thực hiện.

“Khi các tổ chức dần vượt qua giai đoạn thử nghiệm AI, thách thức lớn nhất hiện nay không còn là “AI có thể làm được gì” mà là “làm thế nào để vận hành AI một cách an toàn và ở quy mô lớn”. Ngành công nghệ đang bước vào một thời điểm then chốt, khi các khối lượng công việc AI - đặc biệt là suy luận theo thời gian thực - cần được đưa đến gần hơn với nguồn dữ liệu tại edge, nhưng vẫn phải tránh tạo ra các dữ liệu cô lập mới về bảo mật hay hạ tầng. Sự hợp tác giữa Cisco và NVIDIA được thiết kế nhằm mang đến cho khách hàng sự linh hoạt và nhiều lựa chọn hơn khi mở rộng hạ tầng AI, đồng thời giúp họ vượt qua những thách thức tích hợp phức tạp”. Bà Mary Johnston Turner, Lãnh đạo toàn cầu về Hạ tầng và Dịch vụ Trung tâm Dữ liệu và Kỹ thuật số, IDC chia sẻ.

Thông qua việc liên tục giám sát và xác thực mọi công cụ cũng như hành động mà một tác nhân AI thực hiện, Cisco AI Defense giúp các doanh nghiệp có thể tự tin triển khai các tác nhân AI để quản lý các quy trình và tác vụ quan trọng mà vẫn đảm bảo an toàn bảo mật. Sự tích hợp này giúp thu hẹp khoảng cách giữa đổi mới công nghệ và rủi ro, cho phép các tổ chức tin tưởng rằng các hệ thống tự động của mình có thể vận hành ổn định và an toàn./.