MYSQL BACKEND: Tối ưu hoá phân trang từ 7s còn 1s với Table có 10.000.000 dữ liệu, SẾP tăng lương...

  Рет қаралды 36,564

Tips Javascript

Tips Javascript

Күн бұрын

Пікірлер: 110
@vietthuan98
@vietthuan98 3 ай бұрын
Kỹ thuật phân trang mà anh ý chia sẻ ở cuối còn gọi là "Deferred joins". Mn tham khảo nhé.
@ThangPhan-q3u
@ThangPhan-q3u 2 ай бұрын
Cảm ơn bạn nhé.
@baonguyen3543
@baonguyen3543 18 күн бұрын
nếu ai làm Laravel nhiều sẽ dùng cách khá nhiều, nhưng cảm ơn anh vì video bổ ích.
@middmoon
@middmoon 3 ай бұрын
hồi học môn cơ sở dữ liệu giáo viên của mình đã nói rất nhiều về độ quan trọng cũng như hiệu quả của truy xuất lồng (subquery) thật đáng tiếc khi không chăm chỉ học tập tại thời điểm đó
@jackiedo7370
@jackiedo7370 Ай бұрын
Truy xuất lồng hổ trợ cho logic query phức tạp. Nếu có thể dùng join thì hãy dùng join, gần như là nhanh hơn so với subquery ở mọi case
@nakhoayoutube
@nakhoayoutube Ай бұрын
Em là dev thiên về NoSQL, nhưng sau khi xem video này của anh, em thấy rất hay.
3 ай бұрын
Giảng quá đỉnh quá dễ hiểu, em FE mà nghe hiểu không cần dừng 👍
@haituan8258
@haituan8258 26 күн бұрын
em vừa vào 1 project được mấy tháng, dữ liệu cũng khá lớp, mấy síp cũng dùng cách này nhưng lúc e đọc code lại thắc mắc k biết tại sao. giờ xem được video này e mới biết được lý do. cảm ơn anh đã lên video này
@levaighetscode6173
@levaighetscode6173 26 күн бұрын
Dạ video hay quá ạ cảm ơn anh đã chia sẻ kiến thức này ạ
@nghiatranai4587
@nghiatranai4587 2 ай бұрын
Trước giờ trong đầu cứ chỉ tránh subquery k hề biết đến điều này. Cảm ơn a nhiều!!!
@trihua5296
@trihua5296 2 ай бұрын
Ủng hộ anh, tận tâm quá a ơi, chúc a nhiều sức khỏe ạ! ❤❤
@ngokhanhnguyen2276
@ngokhanhnguyen2276 3 ай бұрын
Quá hay a ơi, cám ơn a đã chia sẻ. Hôm nào làm 1 video về Chuẩn hóa dữ liệu (1NF, 2NF, 3NF, BCNF) đi anh!!
@hien2914
@hien2914 3 ай бұрын
thật sự tuyệt vời , chúc a và gia đình sức khỏe .
@nhatminhnguyenquang7965
@nhatminhnguyenquang7965 3 ай бұрын
Hay anh ạ, btw cái cách này nếu mn để ý thì nó cũng được handle trong cái framework orm điển hình như là typeorm, bữa em log query ra thấy nó handle y chang luôn ạ 😁
@quanledinh2239
@quanledinh2239 3 ай бұрын
Trước e làm inner join rất nhiều nhưng ko ngờ inner join 1 primary key column lại tăng hiệu suất đến vậy
Ай бұрын
Vãi mưa lãn mạn. Anh em đúng đỉnh. Lúc nào nghe giọng anh chai cũng cười khúc khích. Video hay quá anh ạ
@anonystick
@anonystick Ай бұрын
Thẳng quỷ sứ... Lo đám đi cha...
Ай бұрын
@@anonystick Em cưới xong òi =))
@JackieKim2207
@JackieKim2207 3 ай бұрын
cảm ơn anh vì kiến thức hữu ích
@tritripro
@tritripro 3 ай бұрын
Cám ơn thầy, cực kì bổ ích ạ
@Thinhkk0
@Thinhkk0 2 ай бұрын
Quá hay a ơi. ❤❤❤❤
@minhthuanle1599
@minhthuanle1599 2 ай бұрын
Anh có thể làm video hướng dẫn setup project nodejs theo mô hình mvc sử dụng database oracle (cụ thể là plsql) + gói node-oracledb không ạ?
@kduy10b8
@kduy10b8 3 ай бұрын
quá hay a ơi, rất thật tế
@tuanluong6316
@tuanluong6316 2 ай бұрын
Cảm ơn anh, kiến thức quá hay
@gaucoder
@gaucoder 2 ай бұрын
rất hay và bổ ích luôn
@kysomaio7207
@kysomaio7207 3 ай бұрын
khá giống với "common table expression" anh nhỉ 😊😊
@sunetala2957
@sunetala2957 3 ай бұрын
Quá đỉnh Admin ơi.
@anonystick
@anonystick 3 ай бұрын
Tks em
@tandat4619
@tandat4619 2 ай бұрын
Tuyệt vời
@ngocphucdo3757
@ngocphucdo3757 2 ай бұрын
well done a ơi 🎉🎉🎉
@devlife811
@devlife811 3 ай бұрын
Tuyệt vời ạ
@vanhoangleton
@vanhoangleton 3 ай бұрын
Tuyệt vời anh ơi 🎉🎉🎉
@anonystick
@anonystick 3 ай бұрын
Cảm ơn em
@TungJohn123
@TungJohn123 2 ай бұрын
quá đỉnh a oi
Ай бұрын
hay. cám ơn sư huynh!
@VanChinhBui-dc1nm
@VanChinhBui-dc1nm 2 ай бұрын
cái này e tự mày dùng bừa ko ngờ cũng đúng công thức🤣
@pt.9e
@pt.9e 3 ай бұрын
Hóng a share cách chạy câu query khác server như DBLink trong MSSQL trên MySQL :D
@vuduchong
@vuduchong 3 ай бұрын
hay vãi, giờ e mới biết cái bảng tạm
@buituandung4554
@buituandung4554 Ай бұрын
hay quá anh
@luuxuanthe3602
@luuxuanthe3602 3 ай бұрын
Cảm ơn anh!
@khoatrananh7372
@khoatrananh7372 3 ай бұрын
lúc em học, thầy cô cứ nói nên tránh việc dùng subquery vì nó sẽ ảnh hưởng tới perfornamce. Nhưng nay em có 1 góc nhìn khác về nó. Cảm ơn anh!!
@finn2536
@finn2536 3 ай бұрын
Cái này đúng nha, dùng subquery ở FROM nó sẽ tạo ra một cái table tạm thời, cũng cần phải tốn MEM cho cái table này. Nếu size table tạm này lớn thì sẽ ảnh hưởng đến server.
@cuonghoang7609
@cuonghoang7609 3 ай бұрын
Hay quá anh ơi
@aw7258
@aw7258 3 ай бұрын
Nào ra 1 bài về CTE trong SQL a nhé
@tartaglia5724
@tartaglia5724 2 ай бұрын
hay quá sếp
@inhantrinh2402
@inhantrinh2402 2 ай бұрын
Dạ bên thầy có khoá học nào chuyên về mảng MySQL này không ạ
@yughiole7088
@yughiole7088 2 ай бұрын
Khóa chính thì nó đã tự động được đánh index rồi nha ae, nên select nó nhanh, sau đó join
@sang-r3u
@sang-r3u 3 ай бұрын
Cảm ơn anh ạ ❤❤❤
@thachvungoc4254
@thachvungoc4254 3 ай бұрын
thật ra có hơi khác 1 tí nhe, đáng lẽ phải để order by ở trong câu subquery chứ a nhỉ, sau đó câu select ngoài chỉ đơn thuần lấy join thôi anh
@leeshey99
@leeshey99 3 ай бұрын
Video hay quá
@NghiaNguyen-fi7bw
@NghiaNguyen-fi7bw Ай бұрын
nhưng kết hợp với partition hiệu suất lại kém đi
@msnv3652
@msnv3652 3 ай бұрын
tối ưu câu tính tổng sao anh? tks!
@onembes
@onembes 22 күн бұрын
Với bài toán phân trang nhưng cần phải thao tác với 4-5 bảng lớn thì sao ạ
@nhamnguyendinh1899
@nhamnguyendinh1899 3 ай бұрын
❤❤ a có thể demo kỹ thuật này trong mongoose được k ạ, vì mongoose k có viết query rõ ràng như thế này
@phanhuyhoang3720
@phanhuyhoang3720 3 ай бұрын
Mình inner join nhưng không có index user id thì nó không phải quét full bảng hả bạn
@tuannguyenanh85
@tuannguyenanh85 3 ай бұрын
quá dữ Ad ơi, mà Ad cho hỏi thêm là Ad sử dụng phần mềm chỉnh giọng nào thế? Xin cám ơn.
@anonystick
@anonystick 3 ай бұрын
Giọng nguyên bản mà, có chỉnh gì đâu
@yughiole7088
@yughiole7088 2 ай бұрын
@@anonystick 🤣🤣🤣
@ziat1988
@ziat1988 2 ай бұрын
Cho e hỏi là như vậy phải đánh index cho các thành phần trong where ạ? Nếu như trang có chức năng filter phức tạp thì như vậy phải đánh index cho rất nhiều cột. Như vậy có ok ko ạ?
@quocanhvu4301
@quocanhvu4301 Ай бұрын
1 Index được nhiều cột mà bạn, mà phải sắp xếp thứ tự các cột cho đúng nữa nha bạn
@DoTienThuatQP
@DoTienThuatQP 2 ай бұрын
Anh ơi, khoảng bao lâu nữa thì a xong khoá java spring
@TheNguyendinhduy
@TheNguyendinhduy 3 ай бұрын
Em cảm ơn chia sẻ của anh. Anh cho em hỏi, em có 1 vẫn đề này, mong anh giải đáp ạ. Em có 1 cái table gần 1.5b, table có 28 trường, nhưng không có partition, thì mình có cách nào tối ưu không ạ? Em sử dụng MySQL
@anonystick
@anonystick 3 ай бұрын
Vấn đề này thì nhiều khía cạnh. Dữ liệu truy cập thường xuyên hay không? Tối ưu ở đây là tối ưu về insert hay join hay single query... em pm Anh để nói thêm hen
@TheNguyendinhduy
@TheNguyendinhduy 3 ай бұрын
@@anonystick Bảng có lượng insert khoảng 5 triệu records/ngày, và có join ạ, hiện tại thì em vẫn đang sử dụng limit và offset ạ, có index các trường thường query. Em join thêm 3 bảng ạ Bảng a: có 50 records Bảng b: có 150 records Bảng c: Có khoảng 10m records. Bảng a và b thì ít có insert, bảng c thì thường xuyên insert ạ. Hiện tại thì em đang query thì nó mất khoảng hơn 1 phút. Mong anh cho lời khuyên ạ.
@quocanhvu4301
@quocanhvu4301 Ай бұрын
Cách này chỉ tốt khi mà lấy phân trang từ tầm 1 triệu bản ghi trở đi thôi phải không ạ vì thời gian join không đáng kể so với thời gian quét tới 1 triệu ghi trở đi, mà lại sử dụng được cái unique key sẽ nhanh hơn là dùng index, nếu như bản ghi của em chỉ tầm 10k bản ghi thì đánh index là hiệu quả rồi phải không chứ join vào khá tốn hiệu năng ạ.
@anonystick
@anonystick Ай бұрын
Video là 10 triệu..
@quocanhvu4301
@quocanhvu4301 Ай бұрын
@@anonystick em đang phân tích xem em có hiểu đúng ko ấy ạ :(( em sợ em ko hiểu đúng trường hợp nào cũng áp dụng như này thì toang á anh 😥
@reoteuray9823
@reoteuray9823 3 ай бұрын
logic thế này có đúng ko anh: giả sử bảng A có 10 record, và bảng temp kia có 7 record , thì lúc join nó sẽ phải scan cả 2 bảng, tổng phép scan là 10*7 , tức là để tạo ra bảng join tốn nhiều công sức tuy nhiên mặt lợi của pp trên là, chỉ tốn công ở công đoạn join, còn điều kiện where đã nằm ở phần tạo bảng temp, mà phần tạo bảng temp đã được index để rút tối ưu nên tuy công đoạn join là tốn công nhưng so với việc để nguyên bảng kia ko đánh index và scan 10 record , thì lại rút ngắn đc thời gian hơn
@Nam_704
@Nam_704 2 ай бұрын
bắn tim chiu chiu
@TamNguyen-dx2ly
@TamNguyen-dx2ly 2 ай бұрын
Cho em hỏi câu này với. Em đang thấy là cách làm đang tạo 1 table giả. vậy nếu như bài toán là có 5 table mà mỗi table có 1 trường sẽ được search(name, possition , salary ...). thì ở table giả sẽ phải join vao và thực hiện search ở đó phải không anh
@onembes
@onembes 22 күн бұрын
a đã giải quyết đc vấn đề này chưa a
@khauvannam
@khauvannam 3 ай бұрын
Thầy cho em hỏi, theo em biết khi mà select * và select 1 field thì đều tốn performance như nhau bởi vì đều kéo hết row từ page của sql, tại sao select usr_id lại nhanh hơn select * vậy ạ?
@khauvannam
@khauvannam 3 ай бұрын
À nếu như là pk_key có lẽ là đã đc đánh index tương đương với row_id rồi thầy nhỉ
@jackiedo7370
@jackiedo7370 Ай бұрын
Select * và select 1 field sao performance như nhau đc😂
@khauvannam
@khauvannam Ай бұрын
@@jackiedo7370 bác giải thích giúp em tại sao lại khác nhau với ạ? Theo em biết là những row base database khi select 1 field thì nó đã select all trước đó r
@jackiedo7370
@jackiedo7370 Ай бұрын
@@khauvannam hình như bạn hổng kiến thức căn bản về database rồi, bạn học lại cái truy vấn, cách index lưu và truy vấn data đi
@khauvannam
@khauvannam Ай бұрын
@@jackiedo7370 em học trên mạng thoi bác ơi, bác giải thích giúp em được không.
@longshin4299
@longshin4299 3 ай бұрын
Đối với câu query này e giảm xuống 0.02s! Không cần chia table gì cả
@Meonoppo
@Meonoppo 3 ай бұрын
Ghi ra đi bạn
@longshin4299
@longshin4299 3 ай бұрын
@@Meonoppo #1 index( created_datetime, user_id). #2 dùng sub query+ semi join thay vì join. #3 tùy vào requirements và tần suất sử dụng query có thể triển khai thêm một số kỹ thuật paging như 1 dùng 1 câu query chia table thành nhiều page sẵn lưu vào mem cache. Mỗi page ở cache có thể lưu range cho khoảng 10k hoặc 100k records. Khi đó query sẽ tính toán và lấy page lớn đc tính toán lưu ở cache để giảm bớt đc số lượng records cần order ( order by max 10k). Đó là vd. Còn nhiều technique khác Bình thường application nhỏ chỉ cần apply #1 và #2 là ổn và đơn giản rồi.
@AnhTuanHuynhVan
@AnhTuanHuynhVan 2 ай бұрын
@@longshin4299 bác ơi cho e xin câu query được không, em đã đánh index( created_datetime, user_id), mà mất tận 1.5s, cảm ơn bác nhiều
@AnhTuanHuynhVan
@AnhTuanHuynhVan 2 ай бұрын
@@longshin4299 Bạn ơi mình đã đánh index ( created_datetime, user_id), dùng cả sub query+ semi join mà truy vấn vẫn mất 1s, bạn cho mình xin câu query của bạn nhe
@onembes
@onembes 22 күн бұрын
@@longshin4299 cho e hỏi là với bài toán pagination, filter cần thao tác với 4-5 bảng lớn (tầm 50m records) để ra đc kết quả cuối cùng. E xin phương án tối ưu cho bài toán này ạ
@binshin
@binshin 3 ай бұрын
nghe tiếng mưa và lập trình....
@n8_nguyenngocphu160
@n8_nguyenngocphu160 3 ай бұрын
a cho em hỏi tại sao truy vấn mỗi usr_id lại có tốc độ nhanh hơn truy vấn * ạ
@anonystick
@anonystick 3 ай бұрын
Càng ít dữ liệu network thì càng nhanh... ví dụ em chuyển 6 đồ vật sẽ nặng hơn một đồ vật... Yên tâm anh sẽ nói thêm nhiều hơn về mysql đúng trọng tâm
@n8_nguyenngocphu160
@n8_nguyenngocphu160 3 ай бұрын
​@@anonystickem vừa xem kĩ lại thì vì usr_id là PK, nó có index thế nên câu lệnh select chỉ làm trên index thôi(only scan index) thế nên nó rất nhanh.
@mahung8041
@mahung8041 2 ай бұрын
đúng là dù lấy * hay 1 trường thì time nó cũng same nhau thôi. do user_id có index nên time mới nhanh. phần này a có thể check lại.
@phanlinh6742
@phanlinh6742 2 ай бұрын
Phần này root cause ko liên quan nhiều đến việc transfer network mà bản chất là đánh index field usr_created_at_data thì index đã bao gồm PK là usr_id rồi. Vì thế câu trên sẽ dùng Index Scan Only. Nếu mem đủ lớn sẽ scan luôn trên mem, còn ko nó cũng chỉ scan trên index mà không cần lookup lại cây B-tree để lấy dữ liệu và order by toàn bộ dữ liệu.
@vuhuuquocbao8260
@vuhuuquocbao8260 2 ай бұрын
@@phanlinh6742 chỉ scan trên index mà ko cần lookup B-tree là sao anh, data structure của index chính là B-tree mà nên lúc nào scan index thì cũng phải lookup đến B-tree anh.
@VuTran-wy7xb
@VuTran-wy7xb 3 ай бұрын
vẫn đang đợi khoá java anh ơi
@anonystick
@anonystick 3 ай бұрын
Khà khà... Em xem kỹ lại đi xem có bất ngờ gì ko??
@ki3n203
@ki3n203 3 ай бұрын
Bạn vô phần member thay đổi level là xem được khoá java
@VuTran-wy7xb
@VuTran-wy7xb 3 ай бұрын
@@ki3n203 mình join hội viên đc 12 ngày có được không bạn nhỉ, mình vào mà không thay đổi level đc
@VuTran-wy7xb
@VuTran-wy7xb 3 ай бұрын
à rồi, bạn nào bị giống mình thì làm bằng app điện thoại nha, trình duyệt web nó không hiện
@vannguyenpham6809
@vannguyenpham6809 3 ай бұрын
@@ki3n203 uây vậy hả, nâng cấp 50k/tháng là có khóa java. Mình chỉ đăng kí hội viên xem video chứ chưa thực hành được nhiều NodeJS vì làm Java. Hay quá ha :))
@TruongNguyen-f3i
@TruongNguyen-f3i 3 ай бұрын
sao không select ra rồi where in đỡ phải join ạạ
@thachvungoc4254
@thachvungoc4254 3 ай бұрын
theo mình biết thì where in sẽ làm mất tính thứ tự của câu sub query á
@TruongNguyen-f3i
@TruongNguyen-f3i 3 ай бұрын
@@thachvungoc4254 sub query có sort và query bên ngoài đều có sort thì đâu có vấn đề gì về kết quả đâu bạn nhỉnhỉ
@TruongNguyen-f3i
@TruongNguyen-f3i 3 ай бұрын
@@thachvungoc4254 có sort cả query sub và query bên ngoài rồi thì đâu có mất tính thứ tự gì đâu ạạ
@hungtrantv9891
@hungtrantv9891 3 ай бұрын
10 triệu tốn 1s , vậy 100 triệu records tốn 10s hả anh ?
@jackiedo7370
@jackiedo7370 Ай бұрын
Tùy vào tính unique của index bạn ơi. Dùng Bi-Index nên tốc độ là Logarit 2. Không phải là cấp số cộng
@tonacody4100
@tonacody4100 3 ай бұрын
Hay quá bác ơi
If people acted like cats 🙀😹 LeoNata family #shorts
00:22
LeoNata Family
Рет қаралды 18 МЛН
Players push long pins through a cardboard box attempting to pop the balloon!
00:31
Yay😃 Let's make a Cute Handbag for me 👜 #diycrafts #shorts
00:33
LearnToon - Learn & Play
Рет қаралды 117 МЛН
Pagination in MySQL - offset vs. cursor
13:20
PlanetScale
Рет қаралды 60 М.
Cách sinh mã ID cho hệ thống phân tán
8:42
sydexa
Рет қаралды 11 М.
Xây dựng kiến trúc chịu tải lớn ở Tiki
48:23
Grokking Vietnam
Рет қаралды 86 М.
If people acted like cats 🙀😹 LeoNata family #shorts
00:22
LeoNata Family
Рет қаралды 18 МЛН