Datasets:

mp1704

/

w2v2_0

like 0

./data/f2d79344-8379-4815-a92b-4c3ae8466452.wav

nên thì nó có một số cái mà chưa được à gọi là chưa được à

./data/35cff13f-81ff-4146-93cf-3ff6a3304542.wav

và có một số cái hàm giúp các bạn cập nhật loss update stage cho cái loss hiện tại

./data/c5c6e064-4700-4aa0-97ff-b976a129b0e4.wav

bây giờ làm sao các bạn search được trong một tỉ câu đấy trả ra dưới dạng à chỉ trong vòng à

./data/30e05a57-6566-4a14-bbe8-a3f0a87c0be6.wav

còn ai có câu hỏi gì phần này nữa không đấy thì cái set up này khá là đơn giản thôi các bạn có thể thấy ở nhiều nơi

./data/fe45ebdf-a93c-4e65-8ead-41b70228fcdf.wav

ấy nó có thể kết hợp những cái feature lại thành một cái feature mới hữu dụng ấy thì các bạn có thể hiểu như vậy

./data/aaa17636-33a8-4318-9fa1-af8c135bda5b.wav

đấy sau đó các bạn có thể làm bài tập à mội lúc mọi nơi ấy nếu mà ai mà

./data/18363e49-e3ec-4c8d-bed0-bcf44d7af02c.wav

ấy bắt đầu là tôi mà xong đưa tôi lấy tôi đưa vào tiếp phải ra được đi

./data/ed7187b3-49dc-47d3-b124-ff685ad3ba34.wav

có nghĩa ở trong epoch này thì mình coi như là cái model này mình không tính toán ở trên một số nốt

./data/d3374154-b880-4b2b-a49f-dac248e1abfc.wav

còn đâu cái sigmoid này cái max đạo hàm của nó là không chấm hai lăm cho nên đến cái bài mà thuật toán lan truyền ngược khi các bạn học ấy

./data/4280be3c-58bd-48e0-a525-18fc5577f99e.wav

xong mình chạy cái code này rồi thì có thể một lúc nào đấy ấy cái biến x bằng ba có thể truy cập được ở đâu đấy

./data/ef25d188-e7df-491d-93c3-1fd33015a6c5.wav

đấy chứ mình không muốn các bạn trở thành những người chỉ dùng thư viện xong các bạn chấm early stopping như này

./data/9b7fc07a-b466-4d0d-bf25-e049e7aeec9d.wav

năm mươi tám phần trăm thì các bạn tưởng tượng giống như là tung xúc xắc vậy tung xúc xắc các bạn à

./data/55182629-3b75-4ab2-9834-9cddcd6de6b3.wav

hoặc là ví dụ à một cái yêu cầu của người dùng mà mười giây các bạn mới trả lời xong thì rõ ràng là sẽ chưa được đủ yêu cầu

./data/3c6d08df-4f67-4361-8109-e4d9c871bfa5.wav

rõ ràng đây là cái a hiệu chỉnh này nó có làm cho nó tốt hơn

./data/316b3e97-5b51-4f12-bee4-44f42edd7358.wav

cái này làm được cho cả ảnh nha cả âm thanh nha ấy nếu các bạn muốn nói về âm thanh thì đến cái buổi âm thanh mình sẽ nói thêm

./data/cecc940d-ae13-4566-84be-3e51064d0ef4.wav

người ta gọi là sequence auto encoder đấy người ta gọi là một generative model học không có giám sát

./data/4ea8248b-9f04-437f-8144-fe19b9ce77cd.wav

đấy ví dụ mình lập trình website chẳng hạn thì khi các bạn bấm nút thì mình sẽ hiển thị lên một cái ô vuông

./data/33438535-b5fc-4a64-a6c6-5b1dae3ac2cb.wav

thì ở đây người ta ví dụ một số cái mô hình để chúng ta nắm được underfit và overfit thôi đúng không

./data/977a8a1a-b413-429f-a015-334642064dcd.wav

còn đâu khi ý mình thấy training mô hình ý cái khó nhất chính là cái versioning

./data/50a0927a-21aa-439f-9021-c5f8883eb5df.wav

hoặc là các bạn đưa sang một cái file python để các bạn chạy ấy chứ nếu mà

./data/981a13d1-f540-46a8-8705-e580a5ca5893.wav

đúng không có nghĩa là tất cả những câu ở đây là đang là những câu nhận xét

./data/f91537d3-cc14-4174-8059-58d3c300b54f.wav

elu à elu thì mình cũng không nhớ lắm nhưng mà chắc vẫn thuộc họ ờ relu thôi

./data/5503a357-7892-4501-91d8-f2facc30bb51.wav

ấy còn đây có cả bias này ấy ví dụ đây bias lớp đầu tiên chẳng hạn ví dụ như vậy

./data/57b72185-c06d-470d-93c0-775a72ff2e8e.wav

ấy ví dụ tôi đứng trước xong đến đi đi đứng trước xong đến học xong sang bên này này nó bắt đầu cái quá trình decode

./data/3f47f062-50e3-43f4-acd2-2a2cae21c320.wav

cái này có mấy keyword cơ

./data/70c5e2ac-9aaf-431a-8999-2c7ef8339258.wav

ấy nhưng mà mỗi lần thì có thể khởi tạo cái a weight khác nhau cho nên là kết quả nó sẽ khác nhau một chút

./data/60b1af47-7987-43ce-89f8-d48e4987ce85.wav

à ở đây mình à

./data/267f733d-1729-4786-9cc2-3339b9b5b118.wav

mình làm vừa nãy là mình tạo pretrain này xong rồi mình mới fine tool ở đây người ta kết hợp luôn

./data/06bc1d5d-58c4-41b4-bd47-78a6b4ac2ea0.wav

ấy thì bây giờ các bạn lấy một ngàn ra các bạn train đến một cái loss mà các bạn phát hiện là nó bắt đầu bị overfit rồi

./data/34780670-4406-42ef-a867-0457fe4c5da2.wav

hiệp chiêm minh đã rơi giọt lệ

./data/8c30405d-badf-4130-a5e1-e209db954487.wav

thì mình cũng đồng thời là giảm cái a cường độ của cái tham số luôn

./data/062a0f96-222f-468f-8c44-23e4188ccb73.wav

đấy thì một trong những bài toán challenge tại thời điểm hiện tại là làm sao có thể handle được nhiều người

./data/67a7b541-536e-4d65-b784-15928616771a.wav

sau đó các bạn mới đi cập nhật ấy kiểu như vậy các bạn thấy nó có nhiều không

./data/dc0e6745-2359-4d9e-af6d-d3acbeedde69.wav

mà mình sẽ tập trung vào những cái kinh nghiệm của mình về cái việc training model

./data/07ca9cbc-1d7d-456d-8f78-3d8af82ad550.wav

đạo hàm là độ dốc tiếp tuyến thì tôi đánh nhãn là một câu này là câu chính xác nhất này

./data/90a34db1-f6dc-4601-a4fc-7482ec47400f.wav

ok không mọi người

./data/9c94879c-6246-4bd2-b129-501ac9cfdb92.wav

ấy thì trong tensorflow thì họ có những cái hàm rồi đây này early stopping

./data/b8817c03-db09-4d41-a715-dd523e3e135e.wav

đấy ví dụ là các bạn có thể train được nhiều task khác nhau trên một bộ dữ liệu

./data/c9737327-9ef5-4357-b26d-260ec9031e6d.wav

mà chúng ta cần phải vượt qua vì thế lúc đầu nó sẽ tăng tốc lên và khi nó vượt qua những chỗ đó rồi nó sẽ

./data/8c9456e0-e664-414c-a212-4ed5bcfb5aa7.wav

tôi đã chờ được bao nhiêu lâu rồi tôi có nên dừng lại hay không ấy đây chính là cái ý nghĩa của cái hàm này

./data/bdfd1f22-84d6-472e-a25f-8f0c9c791e1a.wav

mình tính để mình phân tích hay mình tính để training mô hình

./data/eae35d4c-4cff-41fe-89f0-ed7e449f7cb9.wav

đây thì nhiệm vụ của cái pretrain này ấy nó sẽ hình thành lên

./data/402d7cc3-bc3e-4362-9b86-773211c3e016.wav

bây giờ người ta sẽ build cái pretrain như thế nào để người ta học được là

./data/26cae3a1-b5a8-4f9f-8295-3aa2735ccc73.wav

ở đây thì à chúng ta thêm những cái thư viện thôi

./data/b176ebd9-e7e1-47d4-96fe-99260d981cec.wav

ấy thì đây chúng ta cũng sẽ code cái dataset như thế này thôi

./data/2c7a15f9-da79-49a4-91c3-077ae99c4782.wav

nay nghỉ nha mọi người

./data/754896f0-ea25-4129-9f92-de15c462705f.wav

đấy những cái lớp này thì nó tương đồng như là cái công thức của softmax thôi các bạn thực hiện tuyến tính sau đó thì phi tuyến

./data/e3e3d401-204e-4e66-a689-a359f59c7460.wav

ấy để người ta tính a chuẩn hóa lại theo phân phối chuẩn đơn vị xong nó từ đó nó học

./data/d88e7cf3-4566-42cf-9d6a-79350539e3a5.wav

người ta sẽ train một cái mà mình gọi là pretrain

./data/49ebb3e6-2462-4b2b-a1e4-6cc8403da51c.wav

đấy thì chúng ta đã học này dropout này

./data/f9f9b053-eb17-4994-a809-8c573870cac3.wav

nhiệm vụ là tái tạo được cái chính cái đầu vào của nó ấy và sau đó là cái weight này này thu được ở đây này

./data/32b01e94-24c9-44a8-beb9-755ee32de044.wav

ấy mà sau khi có rất nhiều những cái thử nghiệm nhỏ ấy rồi mình bắt đầu mới gạch đầu dòng ra à mình sẽ làm như thế này

./data/9c8ea299-35fe-4ae3-9309-e9ebeabe0704.wav

lặp qua những điểm dữ liệu này đúng không

./data/32f7a5cd-ca6e-481f-b710-9f159088a243.wav

thì đây người ta dùng kĩ thuật mà các bạn có thể thấy là người ta sẽ giảm dần cái learning rate đi

./data/31acb59c-51c1-4644-a994-89f84faa73e2.wav

ấy thường mình ý mình tách một nghìn điểm dữ liệu ra một cái model rất là nhỏ thôi mình train thử ấy

./data/c3ebe5d2-f187-499e-a55e-db399d6357bf.wav

có ai có thắc mắc gì nữa không về cái phần này

./data/ab971bfe-f3ec-4810-b8e2-8d7c76026cac.wav

ta dừng sớm có nghĩa bây giờ làm sao các bạn dừng được ở ở cái điểm mà nó không có bị overfit

./data/ebfb4c37-89d9-4e90-819a-8b820c682b00.wav

đúng không ấy thì cái vấn đề của nó là gì khi train lại mô hình trên toàn bộ tập data thì

./data/d6d2e2d8-8c26-4a2d-b3dc-d924103ccb42.wav

đúng không phần validation nó chỉ khác cái phần train là các bạn sử dụng một cái tập khác thôi

./data/5bebbc49-32aa-4603-a61a-0cee52c08f59.wav

về đầu tiên sau khi mình có gradient rồi thì mình cập nhật cái bộ tham số của mình

./data/49b18216-f654-4bd5-934f-3e91244f31c1.wav

ở đây mình thấy có một cái notebook mà mình thấy cũng khá là đầy đủ

./data/97d2587c-33d5-4440-940a-d0ba18720a20.wav

tất nhiên ở phần transfer của âm thanh nó có một số cái khác nha nó không hoàn toàn giống đâu

./data/e95bfbc9-43cd-43cd-9c6a-a47c5f71a02d.wav

ok tương đối nhiều người train được rồi mình sẽ đi tiếp nha

./data/ee34d9a6-5644-474b-8f5c-577685fba7ae.wav

đây mình à

./data/5243014a-0833-4429-8241-090110f215c2.wav

mình sẽ dừng tầm năm đến mười phút để mọi người trao đổi

./data/ad1d9cf8-d914-4e5f-ad71-d3a1854318c2.wav

đấy các bạn tính được gradient

./data/a241fe6d-aa2c-447c-a271-84458c24a227.wav

đấy được không ạ ví dụ như là có những cái từ tôi không quán này

./data/08c8340e-23a0-400e-94ed-2cccf75d6237.wav

đấy không cần phải đợi à có người review các thứ tất nhiên là bọn mình cũng sẽ review với những cái bạn nào mà điểm à thấp

./data/e0a925d8-6cc7-4424-9902-22025617d528.wav

ấy tuy nhiên thì đôi khi chúng ta chỉ cần cái đoạn à trước sigmoid thôi

./data/aa68ea86-9a80-455c-bf14-b9ce02f975fe.wav

các bạn sẽ tạo ra một cái mô hình mới mà cái mô hình đó không có một số cái nốt bất kì ở đây

./data/f58b980c-9f8c-4b05-9bc0-9c6cc5e91449.wav

kiểu như vậy ấy thì đây là một cái cách

./data/a1c0b6f8-a7a0-495e-b23e-e19123c7f216.wav

làm sao mình có thể dừng lại à thực ra em dùng hàm for cũng được đúng không

./data/497e9a11-13f6-4501-a40d-3ace9c46bbe7.wav

đúng không độ chính xác sẽ thấp ấy thì cái thuật toán này cũng khá là đơn giản thôi đúng không ạ

./data/b5f7812f-9265-4e28-9683-de14c1af39cd.wav

ấy thì đây một cái a đầu tiên ấy thì trong cái trường hợp này người ta

./data/7851b4d2-0378-44f9-a75e-24e728537c92.wav

ấy trong học bán giám sát cả data không nhãn nha mọi người

./data/ce998dad-6932-4b18-b336-4ea42bee9c2e.wav

tức là các bạn đưa đến cái nhãn sau đó các bạn cập nhật tham số đôi khi các bạn phải tự code lại

./data/cc7edbdc-9292-4e71-9d0b-10b7000bbec0.wav

vẫn là dense mười sáu thôi thì xu hướng người ta sẽ đi theo hướng chiều sâu

./data/cfa40021-0400-4302-ac80-589941849431.wav

đúng không ở đây thì mình khuyên các bạn sử dụng lưu cái loss function ý

./data/f78ddc99-39d5-47a6-bd83-8b30a7f1c6b8.wav

đây các bạn lặp qua những cái điểm dữ liệu này này

./data/8d44e40d-2e71-4360-823d-9d37d4cf2862.wav

sau đó mình sẽ fine tool ở trên cái bài toán của mình ấy

./data/80dbda82-7d45-484f-a7e8-fbeca5a7fb72.wav

ấy thì mô hình này sẽ yếu hơn yếu hơn so cái a ở bên trên

./data/b519eddd-62ce-49a2-8eef-e9a6c2fdded3.wav

cái mà chúng ta quan tâm chính là bên này nhiều hơn

./data/913ead3d-87a5-4812-8c64-46b4ad3d75a2.wav

dự đoán được là ba bốn cột ở đấy là gì thì chắc chắn là ảnh cũng sẽ làm được như vậy

./data/1174a5cd-f413-4833-842b-a2eac623abee.wav

đấy bây giờ các bạn muốn tìm xem là đạo hàm là gì đi

./data/3bf5bb3e-ed7d-4fd7-888e-310343fbf26f.wav

thì sau này mình có thể nói chuyện thêm

./data/3a3cac56-fadc-41ee-b8bf-bc9bc452b7ac.wav

cũng là một kiểu pretrain nhưng mà nó sẽ phức tạp hơn đơn thuần là kiểu masking như này

./data/f7c7af7b-28c9-4143-a228-7999544f431f.wav

tại vì à mục tiêu của mình là làm sao tạo ra được một cái system tốt

./data/993ef35e-e935-40ed-b799-bc744ff56b68.wav

ấy cho một cái đoạn văn như thế này mình làm sao mình có thể là

./data/d091b9a0-4d87-4b3a-9135-f74a2e18930a.wav

ấy thì các bạn thấy là không phải ai các bạn chỉ sử dụng mô hình mà cái kĩ năng lập trình của các bạn ấy

./data/e53cc41f-ec79-42a1-a664-d1059263be65.wav

ấy cho nên mình đã ngồi mình phân tích à check qua những cái profile trông có vẻ là

./data/12588066-226f-4260-8ad4-87add7e3d121.wav

ở đây có một kĩ thuật mà mình thấy là gần đây rất nhiều bài báo sử dụng đó là chính là

./data/d26a09b0-3674-4fd7-864b-b1c5c0d289b1.wav

có ai có câu hỏi gì nữa không ấy thì đây là một số cái cách nha mọi người

./data/51b21f55-51b9-463f-aa7a-2382806562f7.wav

à đây các bạn có thể chạy cái notebook này tuy nhiên thì mình cũng sẽ nói qua thôi

./data/da6b0132-36cd-4ce0-b10b-e6fe0ee2560a.wav

warm up ờ mình sẽ trong một số lượng step nhất định đầu tiên thì mình sẽ tăng tốc

./data/b908aa90-9149-4668-be3b-8d0d8b3b3eea.wav

mình sẽ giải lao năm phút nha mọi người trong quá trình mà nó đợi a nó training sau đó mình sẽ quay lại

./data/7aa1ba76-9490-4de0-9ef6-bb9827a25590.wav

các bạn chỉ cần chấm thôi nó nó sẽ chia batch cho các bạn sau đó các bạn đây là take là các bạn lấy một cái dữ liệu ra để các bạn xem

./data/83a9e7d4-b74c-410e-b7dd-a7146d534cbb.wav

đây mình sẽ show lại cái slide logistic

./data/3df53468-ab8f-4aaf-82b1-7de4a1e49da7.wav

ấy thì hôm nay mình sẽ không tập trung quá nhiều vào phần này

./data/fa42303d-2860-4342-af70-79476d95cc5b.wav

nhưng ít nhất bây giờ em biết được là nó đang nói đến việc là nhận xét

./data/6f2a404d-eddf-413c-9128-89fdff58f6e1.wav

mỗi một câu thành một vector xong các bạn sẽ có mười ngàn vector thành một cái ma trận xong các bạn sẽ build model giống như là mình đã làm ở cái file kia