AI hứa hẹn sẽ cảm nhận được cảm xúc của chúng ta, giúp đơn giản hóa mọi thứ cho người dùng, nhưng nó cũng đặt ra câu hỏi về việc nó có thể bị lạm dụng hoặc thiên vị như thế nào.
AI cảm xúc đang ngày càng trở nên cần thiết trong ngành công nghệ. Điều này mang lại cả khả năng và vấn đề.
(Ảnh: Pexels/cottbro studio)
Sự trỗi dậy của AI cảm xúc: Những điều tốt và những điều xấu
AI cảm xúc sử dụng các thuật toán phức tạp để hiểu và phản ứng với cảm giác của mọi người thông qua lời nói, giọng nói và khuôn mặt của họ. Dẫn đầu là các công ty như Hume, công ty đã tạo ra bài phát biểu đầu tiên AI có trí tuệ cảm xúc.
Giao diện giọng nói đồng cảm (EVI) của Hume xem xét âm sắc giọng nói của bạn để hiểu và phản hồi cảm xúc của bạn. Lĩnh vực này đã phát triển với bản phát hành GPT-4o “cảm xúc” của OpenAI. Hume đã huy động được 50 triệu USD trong vòng cấp vốn thứ hai và giá trị của ngành dự kiến sẽ vượt mức 50 tỷ USD trong năm nay.
AI cảm xúc có thể được sử dụng cho nhiều việc, từ cải thiện dịch vụ khách hàng đến cho phép Orwellian do thám. Mặc dù AI cảm xúc có rất nhiều hứa hẹn nhưng nó vẫn bị chỉ trích vì không chính xác và có vấn đề về đạo đức khi sử dụng.
Giáo sư Andrew McStay từ Đại học Bangor nói về việc công nghệ này có thể có những tác động to lớn vượt xa những gì được cho là giá trị tiền tệ của nó. Nhưng vẫn chưa rõ những phương pháp này chính xác đến mức nào.
Ví dụ, EVI của Hume gặp khó khăn trong việc phát hiện chính xác những lời mỉa mai và cảm xúc phức tạp. Điều này cho thấy tình cảm của con người phức tạp đến mức nào; ngay cả AI tiên tiến cũng gặp khó khăn trong việc hiểu chúng.
Mối quan tâm về đạo đức và thiên vị
Vấn đề chính với AI cảm xúc là nó có thể làm trầm trọng thêm những thành kiến và các vấn đề đạo đức. Các nghiên cứu đã chỉ ra rằng AI cảm xúc có thể mang lại cho một số nhóm người cảm giác tiêu cực thường xuyên hơn những nhóm khác. Điều này khiến mọi người lo lắng về việc sử dụng nó trong các lĩnh vực quan trọng như tuyển dụng và thực thi pháp luật.
Một giáo sư tâm lý học tên là Lisa Feldman Barrett nhấn mạnh rằng việc này không đáng tin cậy đến mức nào. đoán cảm xúc qua nét mặt một mình một cách chính xác. Vấn đề trở nên tồi tệ hơn vì dữ liệu huấn luyện bị sai lệch, có thể gây ra kết quả sai lệch. Đạo luật AI của Liên minh Châu Âu đã thực hiện một số điều để kiểm soát công nghệ nhận dạng cảm xúc. Tuy nhiên, một số việc vẫn cần phải được thực hiện, đặc biệt là liên quan đến những giả định tinh vi mà AI có thể đưa ra mà không cần sự cho phép hoặc hiểu biết rõ ràng.
AI cảm xúc cần phải được kiểm tra và kiểm soát chặt chẽ để bổ sung nó vào xã hội một cách an toàn. Để ngăn chặn mọi người lạm dụng AI đồng cảm, các nhóm như Sáng kiến Hume đang cố gắng xác định cách sử dụng nó một cách đúng đắn về mặt đạo đức bằng cách lập danh sách các trường hợp sử dụng được phê duyệt và không được hỗ trợ.
Các nhà nghiên cứu và cơ quan quản lý cũng phải hợp tác để tạo ra các hệ thống bảo vệ chống lại sự thiên vị và vi phạm đạo đức. Randi Williams của Liên minh Công lý Thuật toán nhấn mạnh việc đảm bảo công nghệ được sử dụng một cách công bằng và không mang lại lợi ích cho người khác.
AI cảm xúc có nhiều lợi ích nhưng cũng có nhiều rủi ro. Để tiến về phía trước, chúng ta phải tìm ra sự cân bằng giữa những ý tưởng mới và những mối quan tâm về đạo đức để đảm bảo những công cụ này giúp ích cho xã hội mà không vi phạm nhân quyền hoặc củng cố những thành kiến có hại.
Nguồn ScienceTimes