adriangbot commented on PR #20951: URL: https://github.com/apache/datafusion/pull/20951#issuecomment-4062492277
๐ค Benchmark completed (GKE) | [trigger](https://github.com/apache/datafusion/pull/20951#issuecomment-4062464607) <details><summary>Details</summary> <p> ``` Comparing HEAD and join_vectorize2 -------------------- Benchmark tpcds_sf1.json -------------------- โโโโโโโโโโโโโณโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโโโโ โ Query โ HEAD โ join_vectorize2 โ Change โ โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ โ QQuery 1 โ 49.77 / 50.87 ยฑ0.86 / 52.12 ms โ 48.86 / 50.16 ยฑ0.73 / 50.87 ms โ no change โ โ QQuery 2 โ 157.35 / 158.02 ยฑ0.85 / 159.65 ms โ 155.30 / 156.65 ยฑ0.99 / 157.88 ms โ no change โ โ QQuery 3 โ 119.80 / 120.86 ยฑ0.76 / 122.07 ms โ 120.98 / 121.57 ยฑ0.55 / 122.56 ms โ no change โ โ QQuery 4 โ 1433.11 / 1452.02 ยฑ14.12 / 1472.28 ms โ 1422.64 / 1454.60 ยฑ20.25 / 1484.77 ms โ no change โ โ QQuery 5 โ 186.26 / 188.85 ยฑ1.84 / 191.83 ms โ 187.90 / 189.05 ยฑ1.56 / 192.10 ms โ no change โ โ QQuery 6 โ 1071.89 / 1096.22 ยฑ23.85 / 1140.47 ms โ 1053.12 / 1081.12 ยฑ20.45 / 1109.47 ms โ no change โ โ QQuery 7 โ 364.73 / 366.39 ยฑ1.75 / 369.56 ms โ 360.56 / 366.08 ยฑ4.33 / 372.26 ms โ no change โ โ QQuery 8 โ 123.63 / 126.10 ยฑ1.38 / 127.80 ms โ 123.64 / 126.21 ยฑ1.79 / 129.05 ms โ no change โ โ QQuery 9 โ 113.99 / 121.72 ยฑ10.61 / 142.44 ms โ 112.82 / 117.54 ยฑ2.71 / 121.06 ms โ no change โ โ QQuery 10 โ 116.05 / 118.23 ยฑ1.61 / 120.81 ms โ 115.49 / 116.50 ยฑ0.94 / 117.67 ms โ no change โ โ QQuery 11 โ 1027.35 / 1034.81 ยฑ6.43 / 1046.49 ms โ 984.13 / 1015.74 ยฑ17.78 / 1033.84 ms โ no change โ โ QQuery 12 โ 48.58 / 50.26 ยฑ1.31 / 51.47 ms โ 48.58 / 50.60 ยฑ1.47 / 52.81 ms โ no change โ โ QQuery 13 โ 413.97 / 420.02 ยฑ5.42 / 429.61 ms โ 416.51 / 417.44 ยฑ1.06 / 419.28 ms โ no change โ โ QQuery 14 โ 1116.13 / 1119.22 ยฑ3.06 / 1125.11 ms โ 1098.35 / 1104.14 ยฑ4.50 / 1110.70 ms โ no change โ โ QQuery 15 โ 18.65 / 19.67 ยฑ0.88 / 20.94 ms โ 17.84 / 19.16 ยฑ2.31 / 23.76 ms โ no change โ โ QQuery 16 โ 46.56 / 47.25 ยฑ0.52 / 48.06 ms โ 46.82 / 47.28 ยฑ0.77 / 48.81 ms โ no change โ โ QQuery 17 โ 255.18 / 257.66 ยฑ1.45 / 259.08 ms โ 253.14 / 254.83 ยฑ1.12 / 256.02 ms โ no change โ โ QQuery 18 โ 135.04 / 137.20 ยฑ2.01 / 140.89 ms โ 133.30 / 135.17 ยฑ1.19 / 136.91 ms โ no change โ โ QQuery 19 โ 166.38 / 168.53 ยฑ1.24 / 169.94 ms โ 164.67 / 166.22 ยฑ1.62 / 169.19 ms โ no change โ โ QQuery 20 โ 15.95 / 16.75 ยฑ0.54 / 17.41 ms โ 16.28 / 17.10 ยฑ0.55 / 17.78 ms โ no change โ โ QQuery 21 โ 24.67 / 24.82 ยฑ0.19 / 25.20 ms โ 23.95 / 24.73 ยฑ0.51 / 25.46 ms โ no change โ โ QQuery 22 โ 531.08 / 538.26 ยฑ11.83 / 561.84 ms โ 523.54 / 531.81 ยฑ5.14 / 537.94 ms โ no change โ โ QQuery 23 โ 982.97 / 994.13 ยฑ6.95 / 1000.46 ms โ 980.86 / 991.69 ยฑ8.18 / 1000.05 ms โ no change โ โ QQuery 24 โ 445.34 / 447.77 ยฑ1.80 / 449.93 ms โ 446.30 / 448.94 ยฑ2.45 / 452.05 ms โ no change โ โ QQuery 25 โ 371.61 / 374.60 ยฑ2.13 / 377.46 ms โ 369.73 / 373.97 ยฑ2.50 / 376.93 ms โ no change โ โ QQuery 26 โ 88.88 / 90.40 ยฑ1.87 / 93.93 ms โ 86.52 / 87.79 ยฑ1.04 / 89.35 ms โ no change โ โ QQuery 27 โ 358.04 / 361.54 ยฑ2.93 / 365.85 ms โ 360.21 / 361.38 ยฑ1.22 / 363.53 ms โ no change โ โ QQuery 28 โ 155.11 / 155.99 ยฑ0.68 / 156.75 ms โ 155.60 / 156.52 ยฑ0.66 / 157.31 ms โ no change โ โ QQuery 29 โ 315.28 / 319.93 ยฑ3.98 / 326.14 ms โ 313.11 / 315.34 ยฑ2.92 / 321.06 ms โ no change โ โ QQuery 30 โ 50.68 / 52.13 ยฑ1.13 / 54.14 ms โ 47.73 / 49.19 ยฑ1.26 / 50.79 ms โ +1.06x faster โ โ QQuery 31 โ 186.76 / 189.68 ยฑ2.58 / 194.07 ms โ 184.66 / 187.74 ยฑ2.04 / 190.24 ms โ no change โ โ QQuery 32 โ 62.19 / 63.34 ยฑ0.80 / 64.43 ms โ 62.13 / 63.59 ยฑ1.12 / 65.20 ms โ no change โ โ QQuery 33 โ 152.69 / 155.00 ยฑ1.46 / 156.54 ms โ 153.32 / 155.44 ยฑ1.36 / 157.22 ms โ no change โ โ QQuery 34 โ 113.04 / 115.52 ยฑ1.72 / 118.04 ms โ 111.61 / 113.17 ยฑ1.17 / 114.74 ms โ no change โ โ QQuery 35 โ 118.93 / 121.38 ยฑ1.75 / 124.41 ms โ 117.70 / 119.39 ยฑ1.41 / 121.53 ms โ no change โ โ QQuery 36 โ 221.62 / 227.94 ยฑ4.51 / 234.51 ms โ 226.62 / 230.78 ยฑ3.49 / 236.54 ms โ no change โ โ QQuery 37 โ 187.40 / 190.36 ยฑ2.45 / 194.19 ms โ 189.14 / 191.04 ยฑ2.16 / 194.67 ms โ no change โ โ QQuery 38 โ 93.83 / 98.20 ยฑ2.39 / 100.27 ms โ 94.98 / 97.85 ยฑ1.76 / 100.40 ms โ no change โ โ QQuery 39 โ 142.92 / 145.66 ยฑ1.40 / 146.73 ms โ 143.98 / 145.78 ยฑ2.26 / 150.15 ms โ no change โ โ QQuery 40 โ 120.38 / 126.36 ยฑ5.25 / 135.48 ms โ 117.90 / 123.25 ยฑ5.40 / 133.46 ms โ no change โ โ QQuery 41 โ 18.51 / 19.75 ยฑ1.60 / 22.89 ms โ 18.04 / 19.14 ยฑ1.15 / 21.16 ms โ no change โ โ QQuery 42 โ 113.93 / 115.08 ยฑ0.83 / 116.33 ms โ 113.49 / 115.38 ยฑ1.51 / 117.69 ms โ no change โ โ QQuery 43 โ 89.51 / 91.09 ยฑ1.13 / 92.81 ms โ 89.77 / 90.33 ยฑ0.42 / 90.70 ms โ no change โ โ QQuery 44 โ 18.25 / 18.49 ยฑ0.25 / 18.98 ms โ 17.58 / 17.80 ยฑ0.17 / 18.08 ms โ no change โ โ QQuery 45 โ 57.02 / 58.79 ยฑ1.08 / 60.37 ms โ 59.23 / 60.50 ยฑ1.08 / 62.16 ms โ no change โ โ QQuery 46 โ 248.30 / 249.94 ยฑ1.39 / 251.58 ms โ 243.16 / 246.30 ยฑ2.63 / 250.18 ms โ no change โ โ QQuery 47 โ 795.36 / 804.10 ยฑ5.05 / 809.22 ms โ 794.54 / 816.65 ยฑ22.32 / 856.08 ms โ no change โ โ QQuery 48 โ 296.61 / 301.06 ยฑ3.47 / 306.61 ms โ 303.59 / 309.11 ยฑ3.76 / 314.38 ms โ no change โ โ QQuery 49 โ 267.98 / 269.57 ยฑ1.30 / 271.00 ms โ 267.69 / 268.49 ยฑ0.74 / 269.86 ms โ no change โ โ QQuery 50 โ 249.96 / 252.69 ยฑ1.61 / 254.69 ms โ 251.30 / 257.20 ยฑ3.46 / 261.86 ms โ no change โ โ QQuery 51 โ 196.68 / 198.91 ยฑ1.84 / 201.55 ms โ 198.58 / 200.36 ยฑ2.04 / 204.35 ms โ no change โ โ QQuery 52 โ 113.32 / 115.48 ยฑ1.26 / 116.90 ms โ 113.77 / 116.63 ยฑ1.97 / 118.91 ms โ no change โ โ QQuery 53 โ 109.69 / 110.28 ยฑ0.55 / 111.12 ms โ 111.13 / 112.61 ยฑ1.21 / 114.48 ms โ no change โ โ QQuery 54 โ 156.49 / 157.97 ยฑ1.75 / 160.31 ms โ 160.94 / 162.44 ยฑ0.94 / 163.51 ms โ no change โ โ QQuery 55 โ 112.08 / 112.94 ยฑ0.65 / 114.04 ms โ 113.24 / 114.32 ยฑ0.97 / 116.09 ms โ no change โ โ QQuery 56 โ 152.97 / 154.09 ยฑ1.05 / 156.02 ms โ 153.90 / 156.13 ยฑ1.13 / 156.96 ms โ no change โ โ QQuery 57 โ 195.71 / 198.74 ยฑ3.83 / 206.21 ms โ 194.51 / 197.90 ยฑ2.09 / 200.56 ms โ no change โ โ QQuery 58 โ 310.68 / 321.23 ยฑ8.74 / 336.04 ms โ 315.94 / 321.07 ยฑ3.71 / 327.56 ms โ no change โ โ QQuery 59 โ 217.63 / 219.43 ยฑ1.14 / 220.47 ms โ 217.04 / 219.37 ยฑ1.88 / 222.17 ms โ no change โ โ QQuery 60 โ 157.96 / 161.27 ยฑ4.64 / 170.48 ms โ 157.94 / 160.22 ยฑ2.03 / 163.36 ms โ no change โ โ QQuery 61 โ 182.86 / 184.81 ยฑ1.14 / 186.24 ms โ 184.28 / 189.18 ยฑ2.78 / 192.09 ms โ no change โ โ QQuery 62 โ 965.83 / 978.15 ยฑ16.97 / 1010.47 ms โ 916.34 / 982.30 ยฑ56.08 / 1085.66 ms โ no change โ โ QQuery 63 โ 112.09 / 115.21 ยฑ2.45 / 119.58 ms โ 110.83 / 113.12 ยฑ1.57 / 114.93 ms โ no change โ โ QQuery 64 โ 739.13 / 742.82 ยฑ4.56 / 751.77 ms โ 741.35 / 746.21 ยฑ4.22 / 753.74 ms โ no change โ โ QQuery 65 โ 274.40 / 280.41 ยฑ3.21 / 283.74 ms โ 275.79 / 279.72 ยฑ2.54 / 282.26 ms โ no change โ โ QQuery 66 โ 258.46 / 278.03 ยฑ13.71 / 300.40 ms โ 253.72 / 268.29 ยฑ8.85 / 280.99 ms โ no change โ โ QQuery 67 โ 349.61 / 359.24 ยฑ5.86 / 366.09 ms โ 356.98 / 366.14 ยฑ4.91 / 371.58 ms โ no change โ โ QQuery 68 โ 295.27 / 298.14 ยฑ2.18 / 301.27 ms โ 295.01 / 298.63 ยฑ2.84 / 303.45 ms โ no change โ โ QQuery 69 โ 114.91 / 116.65 ยฑ1.99 / 120.45 ms โ 115.05 / 118.30 ยฑ2.08 / 121.21 ms โ no change โ โ QQuery 70 โ 347.01 / 361.24 ยฑ13.92 / 382.56 ms โ 356.86 / 375.84 ยฑ18.70 / 405.63 ms โ no change โ โ QQuery 71 โ 142.41 / 143.67 ยฑ0.93 / 145.26 ms โ 141.61 / 145.48 ยฑ3.33 / 150.30 ms โ no change โ โ QQuery 72 โ 748.01 / 751.96 ยฑ6.12 / 764.02 ms โ 733.81 / 754.94 ยฑ13.41 / 772.42 ms โ no change โ โ QQuery 73 โ 109.61 / 111.24 ยฑ1.38 / 113.23 ms โ 109.88 / 111.48 ยฑ0.94 / 112.70 ms โ no change โ โ QQuery 74 โ 656.83 / 661.20 ยฑ6.44 / 673.95 ms โ 649.26 / 656.82 ยฑ5.68 / 666.31 ms โ no change โ โ QQuery 75 โ 297.42 / 299.72 ยฑ2.39 / 304.15 ms โ 294.44 / 297.93 ยฑ2.64 / 301.85 ms โ no change โ โ QQuery 76 โ 143.27 / 144.62 ยฑ0.70 / 145.28 ms โ 140.59 / 142.17 ยฑ1.64 / 145.05 ms โ no change โ โ QQuery 77 โ 207.35 / 209.51 ยฑ1.38 / 211.25 ms โ 206.56 / 208.42 ยฑ1.47 / 210.46 ms โ no change โ โ QQuery 78 โ 378.77 / 381.37 ยฑ1.60 / 383.83 ms โ 366.06 / 372.45 ยฑ3.85 / 377.22 ms โ no change โ โ QQuery 79 โ 259.76 / 262.84 ยฑ2.50 / 267.04 ms โ 253.81 / 256.10 ยฑ1.95 / 259.74 ms โ no change โ โ QQuery 80 โ 350.55 / 352.80 ยฑ3.31 / 359.23 ms โ 349.38 / 351.16 ยฑ1.41 / 353.22 ms โ no change โ โ QQuery 81 โ 32.92 / 34.28 ยฑ1.10 / 35.38 ms โ 30.94 / 33.30 ยฑ1.71 / 35.67 ms โ no change โ โ QQuery 82 โ 212.05 / 214.03 ยฑ1.14 / 215.19 ms โ 210.93 / 212.54 ยฑ1.43 / 214.74 ms โ no change โ โ QQuery 83 โ 48.61 / 49.61 ยฑ0.74 / 50.67 ms โ 48.16 / 49.16 ยฑ0.99 / 50.36 ms โ no change โ โ QQuery 84 โ 52.99 / 53.81 ยฑ0.49 / 54.37 ms โ 53.20 / 53.81 ยฑ0.42 / 54.48 ms โ no change โ โ QQuery 85 โ 158.14 / 160.00 ยฑ1.07 / 161.21 ms โ 154.55 / 156.37 ยฑ1.53 / 158.96 ms โ no change โ โ QQuery 86 โ 42.21 / 43.62 ยฑ0.72 / 44.14 ms โ 43.01 / 43.72 ยฑ0.58 / 44.59 ms โ no change โ โ QQuery 87 โ 96.91 / 101.12 ยฑ3.22 / 105.64 ms โ 96.17 / 98.22 ยฑ2.74 / 103.44 ms โ no change โ โ QQuery 88 โ 116.86 / 117.92 ยฑ0.61 / 118.62 ms โ 115.17 / 115.48 ยฑ0.22 / 115.70 ms โ no change โ โ QQuery 89 โ 127.85 / 129.50 ยฑ1.08 / 130.76 ms โ 126.58 / 128.08 ยฑ1.11 / 129.99 ms โ no change โ โ QQuery 90 โ 29.40 / 30.08 ยฑ0.45 / 30.82 ms โ 28.93 / 29.44 ยฑ0.36 / 30.02 ms โ no change โ โ QQuery 91 โ 67.35 / 69.54 ยฑ1.60 / 71.47 ms โ 66.31 / 68.36 ยฑ1.14 / 69.48 ms โ no change โ โ QQuery 92 โ 64.43 / 65.24 ยฑ0.75 / 66.42 ms โ 62.72 / 64.32 ยฑ1.38 / 66.64 ms โ no change โ โ QQuery 93 โ 202.76 / 207.11 ยฑ2.38 / 209.56 ms โ 198.58 / 202.46 ยฑ2.12 / 205.06 ms โ no change โ โ QQuery 94 โ 68.63 / 69.31 ยฑ0.49 / 70.04 ms โ 67.66 / 68.13 ยฑ0.39 / 68.70 ms โ no change โ โ QQuery 95 โ 144.73 / 147.94 ยฑ2.14 / 150.94 ms โ 144.99 / 147.95 ยฑ2.02 / 151.16 ms โ no change โ โ QQuery 96 โ 80.04 / 81.57 ยฑ0.81 / 82.30 ms โ 77.06 / 79.47 ยฑ1.61 / 81.32 ms โ no change โ โ QQuery 97 โ 140.47 / 142.96 ยฑ2.03 / 146.51 ms โ 137.28 / 139.43 ยฑ1.59 / 141.87 ms โ no change โ โ QQuery 98 โ 162.76 / 166.35 ยฑ2.52 / 170.24 ms โ 159.02 / 160.90 ยฑ1.27 / 162.48 ms โ no change โ โ QQuery 99 โ 10851.01 / 10903.48 ยฑ41.01 / 10965.15 ms โ 10907.62 / 10955.15 ยฑ46.15 / 11032.75 ms โ no change โ โโโโโโโโโโโโโดโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโโโโ โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโ โ Benchmark Summary โ โ โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ โ Total Time (HEAD) โ 35615.68ms โ โ Total Time (join_vectorize2) โ 35579.51ms โ โ Average Time (HEAD) โ 359.75ms โ โ Average Time (join_vectorize2) โ 359.39ms โ โ Queries Faster โ 1 โ โ Queries Slower โ 0 โ โ Queries with No Change โ 98 โ โ Queries with Failure โ 0 โ โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโ ``` </p> </details> <details><summary>Resource Usage</summary> **tpcds โ base (merge-base)** | Metric | Value | |--------|-------| | Wall time | 178.4s | | Peak memory | 5.7 GiB | | Avg memory | 4.6 GiB | | CPU user | 284.2s | | CPU sys | 21.6s | | Disk read | 0 B | | Disk write | 636.2 MiB | **tpcds โ branch** | Metric | Value | |--------|-------| | Wall time | 178.2s | | Peak memory | 5.4 GiB | | Avg memory | 4.4 GiB | | CPU user | 283.0s | | CPU sys | 21.9s | | Disk read | 0 B | | Disk write | 792.0 KiB | </details> -- This is an automated message from the Apache Git Service. To respond to the message, please log on to GitHub and use the URL above to go to the specific comment. To unsubscribe, e-mail: [email protected] For queries about this service, please contact Infrastructure at: [email protected] --------------------------------------------------------------------- To unsubscribe, e-mail: [email protected] For additional commands, e-mail: [email protected]
