Tiêu đề từ hội nghị nhà phát triển của Apple là Siri tái sinh. Câu chuyện thú vị hơn nằm bên dưới nó: các mô hình AI mà Apple xây dựng để chạy mọi thứ, một trong số đó quá lớn để có thể nhét vừa bộ nhớ của iPhone nhưng vẫn chạy trên thiết bị.
Trong một bài đăng kỹ thuật được xuất bản cùng với WWDC, Apple đã trình bày chi tiết về thế hệ thứ ba của Apple Foundation Models, một dòng gồm 5 mẫu mà hãng mô tả là “được chế tạo tùy chỉnh với sự cộng tác của Google”.
Hai phiên bản chạy trên thiết bị: AFM 3 Core, mẫu có 3 tỷ thông số cho các tác vụ hàng ngày và AFM 3 Core Advanced, mẫu trên thiết bị mạnh mẽ nhất. Ba hoạt động khác trên đám mây: AFM 3 Cloud, một đặc tính của máy chủ; ADM 3 Cloud, mô hình hình ảnh đằng sau Image Playground và Genmoji; và AFM 3 Cloud Pro, ứng dụng nặng được thiết kế để sử dụng công cụ tác nhân và lập luận phức tạp.
Kỹ thuật thông minh có trong Core Advanced.
💜 của công nghệ EU
Những tin đồn mới nhất từ bối cảnh công nghệ EU, câu chuyện từ người sáng lập thông thái Boris của chúng tôi và một số tác phẩm nghệ thuật AI đáng nghi vấn. Nó miễn phí hàng tuần trong hộp thư đến của bạn. Đăng ký ngay bây giờ!
Đây là một mô hình đa phương thức, có 20 tỷ thông số, loại kích thước thường tồn tại trong một trung tâm dữ liệu chứ không phải trong điện thoại. Bí quyết của Apple là giữ toàn bộ mô hình trong bộ lưu trữ flash thay vì bộ nhớ làm việc nhỏ hơn nhiều. Sử dụng một kỹ thuật mà các nhà nghiên cứu gọi là Cắt tỉa theo hướng dẫn, mô hình này đưa ra các quyết định định tuyến một lần cho mỗi lời nhắc, chỉ tải một tập hợp nhỏ các tham số “chuyên gia” vào bộ nhớ, từ 1 đến 4 tỷ mỗi lần, trong khi vẫn luôn bật lõi của các chuyên gia được chia sẻ.
Điều đó cho phép Apple mở rộng quy mô mô hình “vượt xa các giới hạn DRAM truyền thống”, đồng thời mang lại giọng nói biểu cảm hơn và khả năng đọc chính tả sắc nét hơn trong phần mềm năm nay.
Các mô hình đám mây dựa trên Điện toán đám mây riêng của Apple, công ty cho biết sẽ ngăn dữ liệu người dùng được lưu trữ hoặc chia sẻ với bất kỳ ai, kể cả Apple. Đối với mẫu Cloud Pro cao cấp nhất, Apple đã hợp tác với Google và Nvidia để mở rộng kiến trúc quyền riêng tư đó lên GPU Nvidia trong Google Cloud.
Mối quan hệ đối tác của Google là chi tiết đáng được giải quyết. Nội dung của bài phát biểu quan trọng cho thấy các mô hình của Apple được “chắt lọc từ Gemini” hoặc không chứa công nghệ nào của Google.
Vị trí kỹ thuật nằm ở giữa: dòng AFM là của riêng Apple, “được xây dựng tùy chỉnh với sự cộng tác của Google” và được đào tạo về TPU đám mây của Google, trong khi lý do nặng nề nhất đằng sau Siri mới được cho là dựa trên một mô hình tùy chỉnh lớn của Google. Tóm lại, mô hình là của Apple, sức mạnh và phần lớn cơ sở hạ tầng là của Google.
Đối với các nhà phát triển, sự thay đổi mang tính hệ quả hơn là khung Mô hình Nền tảng.
Các ứng dụng có thể chạm trực tiếp vào mô hình trên thiết bị và năm nay Apple đã thêm lớp trừu tượng mô hình cho phép các nhà phát triển trao đổi trong các mô hình của bên thứ ba như Claude của Anthropic hoặc Gemini của Google mà không cần viết lại mã của họ, trong khi iOS 27 sẽ cho phép người dùng đặt trợ lý đối thủ làm mặc định. Đó là một lập trường cởi mở bất thường đối với Apple, ngay cả khi bản thân Apple Intelligence vẫn không đến EU theo cùng mốc thời gian.
Lời cảnh báo thông thường áp dụng cho các con số. Bài đăng của Apple chứa đầy những so sánh tâng bốc, AFM 3 Cloud được ưa thích hơn so với mô hình năm ngoái với 64,7% lời nhắc, giọng nói biểu cảm đạt 4,15 trên thang ý kiến 5 điểm so với 3,87 của hệ thống cũ, nhưng đây là những đánh giá của chính con người Apple, không phải điểm chuẩn độc lập và các mô hình vẫn đang trong giai đoạn thử nghiệm.
Một báo cáo kỹ thuật đầy đủ hơn sẽ được hứa hẹn vào cuối mùa hè này.
Tuy nhiên, sau hai năm bị chế giễu vì một trợ lý không hoạt động, đây là lập luận rõ ràng nhất của Apple rằng hệ thống ống nước cuối cùng đã thành hiện thực: một mô hình nhỏ, riêng tư dành cho những thứ hàng ngày, những mô hình lớn hơn được đóng gói bên trong đám mây của riêng họ dành cho những thứ khó khăn và cơ bắp biên giới của Google, nơi Apple vẫn không thể cạnh tranh một mình.
Liệu nó có đứng ngoài bảng xếp hạng của chính Apple hay không là bài kiểm tra tiếp theo.
Nguồn The Next Web