file
stringlengths
47
47
text
stringlengths
1
182
./data/fd99a64a-0e41-44fa-93bc-302e973c9d06.wav
ấy sau khi mà thử nghiệm ý tưởng mới vậy
./data/3a52b46a-cdb6-4f01-badf-35856091b728.wav
tuấn anh này khi biết chủ đề sau pretrain model thì em vẫn chưa hiểu là nó giúp ích cho việc dự đoán giúp ích chứ em
./data/f748cca5-5b4a-4726-8b1d-afc9a6272e47.wav
đúng không nhưng các bạn có thể thử theo kiểu của mình có nghĩa mình sẽ start hai lần mỗi lần một cái epoch
./data/86aedd73-947d-46c1-933a-594da86438bd.wav
thay vì các bạn lựa chọn kiểu như thế này
./data/2bdce3ec-91ef-479e-98dd-f7ef1d7b9bd6.wav
ấy để xem là cái kết quả có tốt hay không thì các bạn thấy ngay a ở đây các bạn nhìn thấy nó đã tốt hơn so với cái mô hình kia rồi
./data/77137526-b6dc-495c-8700-84609ca774f4.wav
ở trong này cả ba câu đều có từ đạo hàm mà ấy thì mình trả câu nào về
./data/92aa10e7-38a0-4542-9940-a39add06be8f.wav
đấy ví dụ trong năm ngàn step đầu tiên người ta sẽ đẩy cái learning rate lên cao để nó vượt qua được những cái gồ ghề
./data/fb17e2e1-e30a-4fe6-863a-fdf504087a22.wav
ok không mọi người
./data/625908c0-e418-40bb-8acb-42c795273d25.wav
ấy thì đây người ta gọi là small model đúng không và người ta tiếp tục train
./data/6e8d6680-c0d1-446b-9ef9-d7fc823fd6cf.wav
và chỗ này có cái phẩy này ấy tức là đây là một cái ví dụ đây là một cái tham số lớp đầu tiên chẳng hạn ví dụ như thế
./data/d2438259-513a-48dd-956a-01467111d135.wav
mà khi cho cái ảnh chẳng hạn hoặc cho cái âm thanh thì cái nhãn là gì
./data/5a60835c-227d-4882-949e-3fc698e845f5.wav
đấy
./data/8efe3e9d-2db3-4e7f-9dc9-ed8a06aea3cb.wav
đấy rồi các bạn có những cái như kiểu là đạo hàm là
./data/d66ad370-2425-4c35-9db8-a2a7b7008114.wav
ấy thì đây à phase đầu tiên mà mình sẽ build một cái tool để cho giáo viên rồi học viên tham gia vào dậy và và
./data/2f84597c-2566-4f40-a4d9-2023342b7d94.wav
mọi người ok thả like nha mọi người còn bản thân của mình ý thì mình hay dùng à tên thôi
./data/95c351a7-e165-4d15-bcd7-a82e90ac2d57.wav
tại vì à có một cái bài tập a đang đợi mọi người chính là bài toán thuật toán lan truyền ngược rất chi là dài
./data/afebb48c-d4e5-44a0-ad6c-ab585bb606e8.wav
ấy trong thực tế khi mà training ý đôi khi mình hay train kiểu như thế này này thay vì mình train hai epoch
./data/a7533bd8-3e45-41b1-9bea-cbdc9af21dea.wav
đấy for xong epoch một thôi
./data/bea9e49d-3d80-4505-82fe-538bc12fad33.wav
xong mình à cho thêm cái câu hỏi vào đằng sau ấy xong mình ra cái câu trả lời này ấy kiểu như vậy
./data/852e2725-e3ff-490b-8e21-19d1ddf7f02e.wav
chắc chắn là sẽ có l một l hai rồi l một l hai các bạn đã học rồi
./data/d859c144-397d-46c8-8072-fc4b18d59a4e.wav
người đúng người sai cho nên là mô hình này không thể dùng được trong thực tế
./data/2d168710-e954-4a8f-87f8-aba826f7400d.wav
thấy mình chưa được thỏa mãn chẳng hạn thì các bạn có thể feedback để mình sẽ fix ngay
./data/19730891-64d4-4063-9c32-bc7213588f87.wav
đây các bạn thấy không lên được đến bẩy mươi phần trăm rồi này
./data/547b5db7-b165-48ca-bcc2-21be68e5b866.wav
đây các bạn thấy cái last này cái a overfit của nó lớn chưa
./data/0b7a078e-b649-4f23-8f29-ae8c6b082711.wav
ấy nó không giống như kiểu relu đơn thuần
./data/5ada158e-9966-4d13-803a-1cbc0a41b061.wav
và các bạn tính ra được cái gradient được không ạ
./data/a2894f9a-871d-4d44-af98-76a6aa503151.wav
đấy rồi computer vision này ấy đưa một cái ảnh vào xong học được những cái feature
./data/0f6189c1-a788-4ca4-9ce7-648b3a74a19d.wav
không chỉ là mask như này mà có thể làm nhiều thứ khác nhau để build được cái pretrain nữa
./data/500418fa-dfaf-47e4-9478-dbf1bfed3536.wav
đấy có nghĩa các bạn tưởng tượng nó là một cái ma trận
./data/cda8f1b6-0e09-435d-b76a-6c5bcdbe8f89.wav
đấy ví dụ cho một số cái đặc điểm của ví dụ cánh chẳng hạn kiểu như vậy
./data/9c372704-0a8c-45cc-a33d-b5e0fb6f5b69.wav
đấy ví dụ làm search engine nhá làm search engine thì có cái pretrain kiểu như này
./data/336f3b04-f437-4ab5-ab3d-9fda1016b071.wav
ấy cho nên nếu mà ai muốn tham gia bất kì một khóa học nào bọn mình sẽ open đấy
./data/65636bcd-c86a-45fe-a145-7416cc917660.wav
thì trong rất nhiều những cái bài toán đều có thể sử dụng lại được cái mối quan hệ đấy ấy
./data/ff85aaa5-9b1d-48d7-b75a-c84c9019febd.wav
hai ứng dụng mà bọn mình đang phát triển ở trong cái hệ thống này thì mọi người có thể vào cái hệ thống ờ proton x chấm io nha mọi người
./data/2e022262-abca-407d-92ad-f37fb89b1308.wav
ấy thì cái việc làm ai ấy nó phải hình thành từ rất nhiều những cái thử nghiệm nhỏ
./data/a4a5f8bf-5cf6-4117-8f2c-31fa65837eb2.wav
ấy nhưng mà có một cái xu hướng gần đây ấy người ta sẽ không làm trực tiếp mà người ta sẽ build một cái pretrain
./data/ea804ab8-2857-4f46-8502-4efb0b822d2d.wav
ấy thì một cái kĩ thuật đầu tiên khi mà các bạn training cái mạng nơ ron này người ta gọi là dropout
./data/44046de2-efd1-4dfb-8858-7d3d8a826a85.wav
ấy thì à thứ bảy này bọn mình sẽ release cái này cho tất cả mọi người có thể tham gia
./data/639c40b7-efb8-40af-b8fb-6a1996980c26.wav
đây em thấy này cái op này bây giờ của em em dùng như một cái hàm luôn ấy
./data/56d11042-0193-47bf-a1c2-d3a4e3f94d7a.wav
sau khi có cái mô hình đó người ta mới bắt đầu gọi là fine tool
./data/58ce9a0a-d8ec-42f4-b614-6bee1b9edab0.wav
cách tiếp cận thứ hai là mình hay dùng đó là dùng một cái small model
./data/ddb756a6-4ac2-49d2-8821-badd7e84f2ea.wav
lặp qua các batch thì đây chính là một cái step mỗi một cái lần lặp này một cái step
./data/d3ff35ed-a4f6-4e6c-a8d0-ec78b055e7fe.wav
và các bạn chú ý ấy khi mà các bạn lấy a random ra ấy các bạn phải lấy đủ lớn
./data/d56da603-2a2f-4b43-b147-5c6793bbef3c.wav
tuy nhiên cái điều này ý nó chỉ xảy ra khi có mối quan hệ thống kê thôi ấy các bạn không thể là
./data/a37be0a5-5435-4d69-958a-dfca4d91246a.wav
thay vì như vậy các bạn sử dụng model nhỏ
./data/18478541-a854-4750-b47f-c23f10dc03af.wav
internal covariate shift như này về sau mit họ có bài báo phản pháo cái bài này sau này mình sẽ kể cho mọi người
./data/e5fa95ee-a13e-4f2a-b482-dc26a52fdb00.wav
ấy nhưng nếu mà ai mà gọi là làm nhiều quá chẳng hạn mình muốn quản trị được thì các bạn phải dùng những cái tool
./data/d3b6ec77-4f84-4bbc-81de-f9959322ae01.wav
ấy các bạn thấy không ở đây tôi định nghĩa cái việc tính toán cái cross entropy
./data/69fe68db-5c77-4d38-9c5c-b3dcd8b6d788.wav
ấy đến một cái thời điểm ấy khi các bạn train quá nhiều mô hình ý các bạn sẽ không thể nhớ được là mô hình này mình dùng tham số gì
./data/0c27f193-6d7c-41e0-ae5a-0bbb0503a32c.wav
mọi người train được like nha mọi người
./data/123d8b30-96f1-46a7-aaf9-926bf825e016.wav
gọi là chưa ai nghĩ mà ra bao giờ rất khó để các bạn làm một thứ mà chưa ai nghĩ ra bao giờ
./data/f6d0caa1-36f7-4264-b835-4551706c3a7c.wav
ấy thì nó có train cả ba cái mô hình này xem là cái mô hình nào hiệu quả nhất
./data/d4eb6fc1-f31a-408b-ab2d-e0012f136e8d.wav
đây thì người ta sẽ sử dụng cái pretrain này với cái câu mà đã cho này
./data/102622a2-0316-4ba7-bd40-9cfd264729ff.wav
ấy tuy nhiên thì đây là một cái cách mà người ta lựa chọn không biết thi có ok không à tuấn anh có ok không
./data/704a6101-abf3-4e85-b545-1ae630a3852a.wav
được không ạ
./data/c9a13b47-087a-427d-a924-cb6783ef81df.wav
ấy thì đấy là cái yếu tố đầu tiên cái yếu tố thứ hai trường thứ hai ấy chính là trường db tức là cái độ cường độ của cái âm thanh đấy
./data/4eeec57b-4d4b-45cc-81d5-09397e072728.wav
những cái mô những cái biến ở đây ấy nó sẽ là public các bạn hiểu ý không
./data/ed6ed65b-4564-49b2-ba12-4cbb7c6061fe.wav
ấy ví dụ đây mình có thể train thêm ba mươi ngàn một lần nữa xem
./data/e672fbde-7151-4cb2-8d6b-14bd6d1da50f.wav
chứ cũng không phải là mình a tự nhiên mà mình gọi là áp dụng cách này
./data/091d055b-d25c-454f-ae0c-3d4361d181a7.wav
ví dụ imagenet này resnet này ấy thì thường mọi người hay dùng
./data/30289ede-96af-449e-bf84-b3451651fb13.wav
hai cái x này nó sẽ quyết định đây là cái loại hoa nào được không ạ
./data/a0f7c494-c396-4243-b98f-d412ef672414.wav
đúng không cái độ chính xác đâu đó có năm mươi tám phần trăm
./data/ced85254-02e3-4530-9061-64c2ad6f1c9a.wav
có phải nói về chủ đề à chính trị hay không mình dùng cái weight đấy để mình làm cho cái task mà
./data/ee00b73b-35df-497a-93db-a5ca0335a2b0.wav
để có thể là làm cho cái quy trình nó ngắn gọn hơn
./data/8826cca8-67bd-4ca1-a4b1-1ea93bbb8f4d.wav
ấy thì khi mà chúng ta làm như vậy thì chúng ta có một cái pretrain để dùng cho cái việc phân loại thật như này
./data/dbfc8d30-cd98-4b77-b77e-08c64de0bb15.wav
như này không được training cao như lần trước
./data/0ae8a416-8ec1-4751-8ff6-286aba357979.wav
có nghĩa các bạn sẽ tính được gradient này xong a cập nhật tham số thôi ấy thì các bạn thấy bây giờ các bạn phải làm bằng tay hết đúng không
./data/ee623e3c-434a-40d4-84ad-963f237e910d.wav
đây giả sử một cái mô hình như này đi
./data/33af1ce4-27ac-4397-b0b3-ff7f789da68a.wav
ok không anh em
./data/aa6b1322-5e3f-4ae8-aa0d-11ba3354764b.wav
cái verbose này là để in ra thôi nếu các bạn không muốn in ra cái a
./data/919edfd2-f127-4ad8-8a72-b89325524a12.wav
ấy thì các bạn luôn luôn phải suy nghĩ như vậy chúng ta phải suy nghĩ là à nếu cho mình thiết kế cái thư viện như thế này thì mình làm như thế nào đúng không
./data/aa4ea5e3-cbba-45a8-98fa-f066e6d32d10.wav
mà tôi thấy cái hiện tượng này xảy ra thì tôi sẽ dừng ấy tất nhiên thì nó lại phụ thuộc phụ thuộc vào kinh nghiệm của mình nữa
./data/30229f5b-731f-47d2-9f58-269304f6104c.wav
mình sẽ ngồi mình dự đoán xem là trong lớp học này có bao nhiêu người sẽ đi chơi
./data/81fe6eb9-3297-4ee3-9915-4155e84c9d2b.wav
có nghĩa nó chia một lúc cho mình mấy cái model xong nó sẽ mình sẽ biết là cái mô hình nào là tốt
./data/ee0c1e90-54a2-42c0-98f7-178a07d09e90.wav
ấy các bạn sẽ phải fine tool thử rất nhiều những cái a mô hình
./data/85b7b722-40de-4a04-8e49-29eb46441fea.wav
mọi người mà ok mọi người thả like nha mọi người có ai có câu hỏi gì nữa không
./data/25a9273d-07eb-43b6-bfe2-7936d9f89614.wav
ở đây thì mình cũng a không có nhắc lại rồi mình xây dựng mô hình này lớp dense này dropout này
./data/3741b4a1-d1f9-4714-a15d-5e19ad270517.wav
ngôn ngữ khác là sao anh ngôn ngữ này là ngôn ngữ gì anh ngôn ngữ a lập trình hay ngôn ngữ tiếng
./data/9122e0d2-29d0-4370-98bf-d2daf1e7a212.wav
ấy các bạn thấy này form logit có nghĩa là đây mình không có softmax
./data/2d7c9847-5d41-4ca5-97a1-ad87de88ecc7.wav
ở trên trang chủ tensorflow nha mọi người cho nên mình lấy thêm một cái notebook nữa để mình nói qua một số cái
./data/4dc87c59-8b08-46ea-a16d-f9b168297302.wav
đấy cho nên là trên một trăm ngàn hay trên mười ngàn thì đều chia cho cái số tương ứng như vậy
./data/3677575a-a637-4ce2-9ba3-f1eb02096e87.wav
đấy ví dụ code là nhận vào bao nhiêu layer này bao nhiêu những cái tham số gì đấy
./data/be28ca07-608a-48d1-b411-0f48e3e4f8a8.wav
có ai có câu hỏi phần này không
./data/3ede30ae-827a-4dbd-aea8-776d34702f4f.wav
đấy thì đây là cái challenge hiện tại mà mình đang a phải đối mặt ấy thì có những cái technique khá là thú vị
./data/1a980807-1d1c-458d-b9df-346e56def5b6.wav
các bạn bật cái notebook nha mọi người
./data/aa10ebe2-fe81-41b1-b487-8dea84258fcd.wav
đây
./data/1253a6cf-b666-45fa-afb5-d6d3622b9fe4.wav
có ai có câu hỏi phần này không trong lúc training
./data/461949b1-5d38-4907-8e42-62e456f685ef.wav
ở train vẫn train vẫn lên và ở validation vẫn lên ok tôi vẫn có thể train thêm được
./data/f4029195-21b2-4859-ac6b-3b6afec90c14.wav
bây giờ mình sẽ hướng dẫn các bạn một số kĩ thuật training
./data/438a01e6-1861-4ab5-9140-766e9edd263a.wav
ấy thì các bạn có thể thử cái cách của mình là mình sẽ
./data/270d851d-8b5d-4644-af74-af4d67977538.wav
sau đó tôi sẽ fine tool
./data/fa0073f8-bdfa-411f-a437-83e65bfa2ca8.wav
ấy thực ra đây cũng cách mà mình hay làm nha nhưng mình không phải làm early stopping mà mình làm theo cái kiểu là
./data/c24bbb56-f14a-4339-aa40-07d523872399.wav
ấy mình bây giờ mình cũng bố trí data mới cho pretrain
./data/1ecd7af1-a05b-446e-aea3-2c7bbf037542.wav
ấy thì ví dụ các bạn tưởng tượng về cái gradient descent ý
./data/9606fa15-ad9e-428b-b477-29180ddc28ef.wav
rồi thì đây là một số cách mà chúng ta đã nhìn qua
./data/83f2b111-6725-455f-be7f-86c5c75862bc.wav
mới ra được cái output ở đây ấy thì từ cái output này các bạn mới bắt đầu tính ra được cái loss đúng không
./data/4408515c-e0fd-4f78-9fd6-4c73d2886e79.wav
rồi trong lúc đợi training thì mình sẽ quay lại slide nào xem có cái gì hay ho hơn không
./data/ecf9d5cd-bda4-43b9-bbef-24da0a3b4bfd.wav
ấy đọc video xong chuyển thành text là một cái model đầu tiên model thứ hai là sẽ là model tìm kiếm
./data/7b93b33d-41c5-458e-9776-e442619234fe.wav
như thế này sau đó mình sẽ mang cả data lớn ra xong bắt đầu mình mới bắt đầu training
./data/56b64efb-360f-48f8-a09c-1127bfcfd848.wav
đấy rescaling resize xong random flip rotation tách batch

Dataset Card for "w2v2_0"

More Information needed

Downloads last month
39
Edit dataset card