Công ty AI phát hành robot tạo văn bản mặc dù lo ngại nó có thể được sử dụng để tạo tin tức giả

0
9


Công ty AI do Elon Musk hậu thuẫn phát hành robot tạo văn bản của mình mặc dù lo ngại nó có thể được sử dụng để tạo tin tức giả và spam

  • Công cụ này có thể tạo văn bản giống con người dựa trên một dấu nhắc
  • Một số nhà nghiên cứu sợ rằng nó có thể được sử dụng để tạo ra tin tức giả và thư rác
  • Công cụ này đã bị rút khỏi công chúng kể từ tháng Hai

Những người tạo ra một robot tạo văn bản đã phát hành công cụ này cho công chúng mặc dù lo ngại ban đầu rằng nó có thể bị thao túng bởi các diễn viên xấu.

OpenAI – một Xạ thủcông ty đã hỗ trợ nghiên cứu trí thông minh nhân tạo – đã nêu chi tiết hệ thống của mình, được gọi là GPT-2, vào tháng 2, nhưng đã ngừng phát hành nó vì lo ngại rằng nó có thể được sử dụng để phổ biến thư rác và tin tức giả.

AI có khả năng lấy một đoạn văn bản và ngoại suy mẩu thông tin nhỏ đó thành một tài liệu lớn hơn.

Trên đây là một ví dụ về đầu vào nhanh chóng của MailOnline. Phần in đậm là đầu vào ban đầu và văn bản tiếp theo là những gì được tạo ra bởi máy tính

Trên đây là một ví dụ về đầu vào nhanh chóng của MailOnline. Phần in đậm là đầu vào ban đầu và văn bản tiếp theo là những gì được tạo ra bởi máy tính

Ví dụ, nếu được cung cấp một tiêu đề giả mạo, bot sẽ có thể tạo ra một câu chuyện tin tức giả khá thuyết phục dựa trên lời nhắc.

Khả năng đó cũng bao gồm nhiều mod sáng tạo hơn như viết.

GPT-2 được đào tạo sử dụng 8 triệu tài liệu và có khả năng tạo ra sự kết hợp và thuyết phục đáng ngạc nhiên.

Để tự mình xem bot đã tạo ra văn bản sáng suốt như thế nào, bạn có thể thử bản fax công nghệ của OpenAI tại TalkToTransformer.com.

Theo The Verge, OpenAI nói rằng "không có bằng chứng mạnh mẽ nào về việc sử dụng sai mục đích" của GPT-2 và kết quả là đã công bố đầy đủ mô hình của chương trình.

AI có thể bắt chước những bài thơ và văn xuôi. Trên đây là một đoạn trích bắt nguồn từ bài thơ nổi tiếng của Robert Frost 'Con đường chưa đi'

AI có thể bắt chước những bài thơ và văn xuôi. Trên đây là một đoạn trích bắt nguồn từ bài thơ nổi tiếng của Robert Frost 'Con đường chưa đi'

Trên đây là một ví dụ về những gì xảy ra khi bạn nhập một tiêu đề thực sự - trong trường hợp này, một tiêu đề đã được loại bỏ khỏi phần khoa học của Daily Mail. Văn bản in đậm là lời nhắc ban đầu trong khi văn bản tiếp theo được chế tạo bởi GPT-2

Trên đây là một ví dụ về những gì xảy ra khi bạn nhập một tiêu đề thực sự – trong trường hợp này, một tiêu đề đã được loại bỏ khỏi phần khoa học của Daily Mail. Văn bản in đậm là lời nhắc ban đầu trong khi văn bản tiếp theo được chế tạo bởi GPT-2

Mặc dù OpenAI tuyên bố rằng trí thông minh nhân tạo của nó đã không bị lạm dụng, các nhà nghiên cứu đã cảnh báo chống lại việc làm cho các hệ thống như của họ trở nên công khai.

Vào tháng 2, sau khi công ty tuyên bố đã phát triển GPT-2, một cuộc tranh luận về đạo đức AI bắt đầu tràn ngập trong cộng đồng và tiếp tục vang vọng trong các lĩnh vực tương tự như các công cụ xử lý video thường được gọi là deepfakes.

Khi thế giới của AI trở nên tinh vi hơn, các nhà nghiên cứu và nhà đạo đức đã phải vật lộn để phát triển một bộ hướng dẫn về thời điểm và cách thức sử dụng công nghệ

Khi thế giới của AI trở nên tinh vi hơn, các nhà nghiên cứu và nhà đạo đức đã phải vật lộn để phát triển một bộ hướng dẫn về thời điểm và cách thức sử dụng công nghệ

Những công cụ này có khả năng xoắn cả âm thanh và video đến một mức độ gần như không thể phát hiện được từ tài liệu nguồn và được coi là một công cụ tiềm năng của thông tin sai lệch.

OpenAI nói rằng họ cũng đã phát triển một công cụ có thể phát hiện văn bản do hệ thống tạo ra với độ chính xác 95%, nhưng như The Verge lưu ý, nỗ lực đó vẫn cần phải được kết hợp với các thẩm phán của con người.

Công ty cho biết họ sẽ tiếp tục quan sát cách GPT-2 được sử dụng và lan truyền khắp cộng đồng.



Nguồn Dailymail

BÌNH LUẬN

Vui lòng nhập bình luận của bạn
Vui lòng nhập tên của bạn ở đây