Bài 19: Recursive Neural Networks

Bài 19: Recursive Neural Networks - Pytorch Cơ bản

Đăng bởi: Admin | Lượt xem: 1397 | Chuyên mục: AI

Mạng nơ-ron sâu ( Deep neural networks ) có một tính năng đặc biệt cho phép tạo ra những đột phá trong việc học máy hiểu quá trình ngôn ngữ tự nhiên. Có thể quan sát thấy rằng hầu hết các mô hình này coi ngôn ngữ như một chuỗi các từ hoặc ký tự phẳng và sử dụng một loại mô hình được gọi là mạng recurrent neural networklại hoặc RNN.

Nhiều nhà nghiên cứu đi đến kết luận rằng ngôn ngữ được hiểu tốt nhất đối với cây phân cấp của cụm từ. Loại này được bao gồm trong mạng nơ-ron đệ quy có tính đến cấu trúc cụ thể.

PyTorch có một tính năng cụ thể giúp làm cho các mô hình xử lý ngôn ngữ tự nhiên phức tạp này dễ dàng hơn rất nhiều. Nó là một khuôn khổ đầy đủ tính năng cho tất cả các loại học sâu với sự hỗ trợ mạnh mẽ cho thị giác máy tính.

Các tính năng của mạng nơron đệ quy :

Một mạng nơron đệ quy được tạo ra theo cách nó bao gồm việc áp dụng cùng một tập trọng số với các cấu trúc giống như đồ thị khác nhau.
Các node được duyệt theo thứ tự tôpô.
Loại mạng này được đào tạo theo phương thức phân biệt tự động ngược lại.
Xử lý ngôn ngữ tự nhiên bao gồm một trường hợp đặc biệt của mạng nơron đệ quy.
Mạng tensor nơ ron đệ quy này bao gồm các node chức năng thành phần khác nhau trong cây.

Ví dụ về mạng nơ ron đệ quy như sau :

Theo dõi VnCoder trên Facebook, để cập nhật những bài viết, tin tức và khoá học mới nhất!