Ngoại truyện: Export file tự động với Selenium webdriver

Công Nghệ
Ngoại truyện: Export file tự động với Selenium webdriver
Bài viết được sự cho phép của tác giả To Thi Van Anh Tình cờ thì hôm vừa rồi mình có được một chị cùng công ty nhờ xem giúp chị ấy xem đoạn công việc của chị như thế này thì có thể automate được không. Mô tả bài toán đấy thì đại khái như thế này. Bên mình có một số các tài liệu liên quan dự án, chúng được tạo và lưu trữ online trên một hệ thống website nội bộ. Vì tình hình dự án chưa ổn định, nên nội dung trong các tài liệu có thể bị thay đổi thường xuyên. Do đó, để thuận tiện hơn cho việc theo dõi tiến độ và quản lý của mình thì chị ấy sẽ cần phải export, lưu trữ file đó trên máy tính khá nhiều lần và định kỳ, vấn đề ở đây là trên hệ thống đó có đến hàng trăm tài liệu cần được tải xuống mỗi lần. Kể cả trường hợp dù sau này có ổn định thì việc thực hiện cả đến trăm lần những thao tác tẻ nhạt và mất thời gian đó cũng làm mất khá nhiều thời gian. Nên cần một cách nào đó để giải quyết vấn đề này. Từ lời “nhờ vả” đó thì mình cũng bắt tay tìm hiểu kỹ hơn bài toán và vấn đề ở trên. Đầu tiên, kiểm tra tổng quát các bước được thực hiện trên thực tế như thế nào. Sau đó kiểm tra sơ bộ các element của các phần tử sẽ được tương tác. Tiếp đó lựa chọn ngôn ngữ, công cụ để code (ở đây tại vì mình mới làm quen với Python nên cũng muốn thử với nó xem sao, còn nếu không thì mình vẫn dùng...

Bài viết được sự cho phép của tác giả To Thi Van Anh

Tình cờ thì hôm vừa rồi mình có được một chị cùng công ty nhờ xem giúp chị ấy xem đoạn công việc của chị như thế này thì có thể automate được không. Mô tả bài toán đấy thì đại khái như thế này.

Bên mình có một số các tài liệu liên quan dự án, chúng được tạo và lưu trữ online trên một hệ thống website nội bộ. Vì tình hình dự án chưa ổn định, nên nội dung trong các tài liệu có thể bị thay đổi thường xuyên. Do đó, để thuận tiện hơn cho việc theo dõi tiến độ và quản lý của mình thì chị ấy sẽ cần phải export, lưu trữ file đó trên máy tính khá nhiều lần và định kỳ, vấn đề ở đây là trên hệ thống đó có đến hàng trăm tài liệu cần được tải xuống mỗi lần. Kể cả trường hợp dù sau này có ổn định thì việc thực hiện cả đến trăm lần những thao tác tẻ nhạt và mất thời gian đó cũng làm mất khá nhiều thời gian. Nên cần một cách nào đó để giải quyết vấn đề này.

automated-decision-makingautomated-decision-making

Từ lời “nhờ vả” đó thì mình cũng bắt tay tìm hiểu kỹ hơn bài toán và vấn đề ở trên. Đầu tiên, kiểm tra tổng quát các bước được thực hiện trên thực tế như thế nào. Sau đó kiểm tra sơ bộ các element của các phần tử sẽ được tương tác. Tiếp đó lựa chọn ngôn ngữ, công cụ để code (ở đây tại vì mình mới làm quen với Python nên cũng muốn thử với nó xem sao, còn nếu không thì mình vẫn dùng Java thôi :v).

Mình chọn Python, kaka vì thấy các bước cũng không nhiều và khó quá, được cái cú pháp các thứ nó ngắn gọn hơn so với Java :v. Mình bắt đầu khá suôn sẻ với các bước auto mở trình duyệt FireFox, nhập username, password sau đó đăng nhập thành công. Mấy bước đơn giản có khác, nhanh lắm. Cứ ngỡ là mọi việc trở đi sẽ suôn sẻ như bước đăng nhập, thế nhưng không phải vậy, từ sau đấy thì sóng gió mới bắt đầu =)), mình đã mất khá nhiều thời gian để chạy được bước tiếp theo.

Rắc rối ở chỗ mình đã lựa chọn element chưa đúng, và cũng không hiểu tại sao với element đó thì nó lại không được, mặc dù đã check rất kỹ trên console của các trình duyệt, từ FireFox, Opera, rồi cả IE nữa. Cứ nghĩ do Python với cả trình duyệt nên lúc này mình mất kiên nhẫn nên lại chuyển sang Eclipse làm Java cho thêm phần tự tin. Haha thế nhưng rồi cũng xong :v

Chuyện vẫn chưa dừng lại ở đó, khi mình thực hiện click thì hệ thống hiển thị lên một form mới, và mình sẽ phải thực hiện các thao tác tiếp theo trong form đấy. Lướt qua các phần tử cần tương tác thì thấy element lấy được rất dễ dàng, vì toàn thông qua ID với name của phần tử thôi, thế nhưng khi thực hiện các thao tác click thì nó lại không được. Mình lại chủ quan ở chỗ, không lần từ gốc của phần tử HTML đó, khi mà chỉ thấy đến tag form là nó đã bao hết cái cửa sổ này rồi nên không kiểm tra tiếp nữa, chạy thử vài lần vẫn không được, cuối cùng mới nghĩ ra nó nằm trong một cái frame, keke, trong HTML của trang thì tag frame này nó ở mãi trên thảo nào mà không nhìn ra ngay từ đầu, làm phí mất mấy phút cuộc đời :v

single-frame-source-selenium-webdriversingle-frame-source-selenium-webdriver

Vậy nên kinh nghiệm rút ra ở đoạn này đó là khi làm việc mà có sự xuất hiện của form chồng lên cái màn hình trang web hiện tại, hay nếu nó là một popup gì đó thì nhất định phải tìm cho kỹ càng cái thẻ frame, tránh mất thời gian đi soi lỗi tại sao, với cả chỉnh sửa tè le vẫn không biết. Hehe

Và một bài học nữa đó là không nên chủ quan bất cứ cái gì, ngay từ đầu khi mà soi các element, mình đã khá tự tin vì các emlement này lấy rất dễ, làm rất nhanh nhưng đến khi thực tế thì lại không như mình nghĩ lắm :v. Tự tin là tốt nhưng tự tin và tự phụ thì nó cũng rất gần nhau, mình thì chưa đến mức tự phụ, chỉ nhắc ở đây cho ai đấy tự soi lại bản thân thôi nhá! Kaka

Đến đây, cơ bản thì sóng gió đã qua gần hết :v vì từ lúc này đi mình đã thực hiện được hầu hết các bước. Ối dồi nhưng khi chạy click vào nút download, thì nó không tự động lưu file xuống máy mới đau, vì file mình export ra nó là file excel, nên nó còn hỏi là mày muốn mở file hay muốn lưu file. (Cũng sẽ tương tự trường hợp file tải xuống là file .doc, .pttx… đại khái là các loại file office, hay file định dạng .pdf nữa) Cái này thì Selenium không thể thực hiện send thao tác như tương tác các phần tử web được. Nhưng với mình cái này không phải là vấn đề, chỉ là đưa ra để cho các bạn biết trường hợp có thể sẽ gặp phải thôi. Mình nhanh chóng search google và tìm được ra ngay hướng xử lý dễ dàng nhé. Kaka. Mình chưa có kinh nghiệm chỗ này vì trước đây toàn làm download với file .zip nên không có vấn đề gì.

ExportingToExcelExportingToExcel

Cách làm thì đại khái là sử dụng FireFox profile, và set một vài thứ liên quan đến profile thôi. Bài sau mình sẽ nói về cái này. Hihi.

Thế là cuối cùng cũng download được file xuống máy. Đơn giản quá đi. :v

Tưởng vậy là xong, nhưng quay lại yêu cầu của bài toán này, đó là cần phải download được nhiều tài liệu cơ. Mình biết rằng mỗi tài liệu cần tải xuống đều có 1 id duy nhất, ý tưởng đơn giản là cho danh sách các id này vào trong 1 file và khi nào tải xong sẽ đóng trình duyệt và thực hiện mở trình duyệt với id của file cần tải khác ra rồi lại tải file xuống, và cứ như thế cho đến khi hết danh sách thì thôi (mặc dù biết cách này đang hơi cùi, nhưng vì áp lực thời gian hoàn thành nên mình làm tạm cách này, và hứa sẽ update khi mà tranh thủ được thời gian)

Vấn đề mình gặp phải ở đây mới hay nè, sau khi thực hiện click vào nút để file download file xuống thì mình không thể thực hiện được bất kì thao tác gì phía sau đấy, thế nên không thể thực hiện được nhiều lần download như ý tưởng ban đầu. Debug vài lần mình phát hiện code chạy đến dòng btnExport.click() vừa kịp click tải file xuống xong thì treo luôn, bới tung google, soi lại các profile đã set phía trên, thay đổi các cách, nói chung là đều đã làm hết cả, mất mấy ngày liền vẫn chưa tìm được lý do tại sao.

Nhưng cuối cùng thì chính ở chỗ mình không ngờ đến nhất thì vấn đề nó lại nằm ở đấy 😀😀😀😀 chính là btnExport.click(), rõ ràng button này mình lấy theo ID của phần tử, click thực hiện được thì có chuyện gì với nó? Tình cờ phát hiện ra khi mà mình quyết định thử thay đổi từ khóa tìm kiếm khác 😀😀😀😀 kaka, đó là thay bằng cách dùng JavascriptExecutor:

JavascriptExecutor executor = (JavascriptExecutor) browser; 
executor.executeScript("var elem=arguments[0]; setTimeout(function() {elem.click();}, 100)", btbExport);

Thay xong, code chạy vù vù như thanh niên nam trong quảng cáo Sting dâu luôn! =))

1451451137513480012514514511375134800125

Vui mừng khôn xiết, và rồi như vậy sau hơn 1 tuần tranh thủ đến sớm và ở lại sau giờ làm việc một tí thì cũng đã gọi là tạm ổn. Chạy được ngon lành, đáp ứng được mục đích sử dụng. (Mình vẫn biết là bên trong code vẫn hơi lởm khởm chút, nhưng quan trọng là nó đã chạy được ngon lành đã =)) )

Bài này chia sẻ vui câu chuyện của mình thế thôi, còn cụ thể về cái FireFox profile và cách download file bằng Selenium webdriver như thế nào mình sẽ chia sẻ trong bài biết sau nhé! Cảm ơn các bạn đã theo dõi và đọc đến tận dòng cuối cùng này! 😀😀😀😀

Bài viết gốc được đăng tải tại vananhtooo.wordpress.com

Có thể bạn quan tâm:

Xem thêm Việc làm it jobs for Developer hấp dẫn trên Station D

Bài viết liên quan

Bộ cài đặt Laravel Installer đã hỗ trợ tích hợp Jetstream

Bộ cài đặt Laravel Installer đã hỗ trợ tích hợp Jetstream

Bài viết được sự cho phép của tác giả Chung Nguyễn Hôm nay, nhóm Laravel đã phát hành một phiên bản chính mới của “ laravel/installer ” bao gồm hỗ trợ khởi động nhanh các dự án Jetstream. Với phiên bản mới này khi bạn chạy laravel new project-name , bạn sẽ nhận được các tùy chọn Jetstream. Ví dụ: API Authentication trong Laravel-Vue SPA sử dụng Jwt-auth Cách sử dụng Laravel với Socket.IO laravel new foo --jet --dev Sau đó, nó sẽ hỏi bạn thích stack Jetstream nào hơn: Which Jetstream stack do you prefer? [0] Livewire [1] inertia > livewire Will your application use teams? (yes/no) [no]: ... Nếu bạn đã cài bộ Laravel Installer, để nâng cấp lên phiên bản mới bạn chạy lệnh: composer global update Một số trường hợp cập nhật bị thất bại, bạn hãy thử, gỡ đi và cài đặt lại nha composer global remove laravel/installer composer global require laravel/installer Bài viết gốc được đăng tải tại chungnguyen.xyz Có thể bạn quan tâm: Cài đặt Laravel Làm thế nào để chạy Sql Server Installation Center sau khi đã cài đặt xong Sql Server? Quản lý các Laravel route gọn hơn và dễ dàng hơn Xem thêm Tuyển dụng lập trình Laravel hấp dẫn trên Station D

By stationd
Principle thiết kế của các sản phẩm nổi tiếng

Principle thiết kế của các sản phẩm nổi tiếng

Tác giả: Lưu Bình An Phù hợp cho các bạn thiết kế nào ko muốn làm code dạo, design dạo nữa, bạn muốn cái gì đó cao hơn ở tầng khái niệm Nếu lập trình chúng ta có các nguyên tắc chung khi viết code như KISS , DRY , thì trong thiết kế cũng có những nguyên tắc chính khi làm việc. Những nguyên tắc này sẽ là kim chỉ nam, nếu có tranh cãi giữa các member trong team, thì cứ đè nguyên tắc này ra mà giải quyết (nghe hơi có mùi cứng nhắc, mình thì thích tùy cơ ứng biến hơn) Tìm các vị trí tuyển dụng designer lương cao cho bạn Nguyên tắc thiết kế của GOV.UK Đây là danh sách của trang GOV.UK Bắt đầu với thứ user cần Làm ít hơn Thiết kế với dữ liệu Làm mọi thứ thật dễ dàng Lặp. Rồi lặp lại lần nữa Dành cho tất cả mọi người Hiểu ngữ cảnh hiện tại Làm dịch vụ digital, không phải làm website Nhất quán, nhưng không hòa tan (phải có chất riêng với thằng khác) Cởi mở, mọi thứ tốt hơn Bao trừu tượng luôn các bạn, trang Gov.uk này cũng có câu tổng quát rất hay Thiết kế tốt là thiết kế có thể sử dụng. Phục vụ cho nhiều đối tượng sử dụng, dễ đọc nhất nhất có thể. Nếu phải từ bỏ đẹp tinh tế – thì cứ bỏ luôn . Chúng ta tạo sản phẩm cho nhu cầu sử dụng, không phải cho người hâm mộ . Chúng ta thiết kế để cả nước sử dụng, không phải những người đã từng sử dụng web. Những người cần dịch vụ của chúng ta nhất là những người đang cảm thấy khó sử dụng dịch...

By stationd
Hiểu về trình duyệt – How browsers work

Hiểu về trình duyệt – How browsers work

Bài viết được sự cho phép của vntesters.com Khi nhìn từ bên ngoài, trình duyệt web giống như một ứng dụng hiển thị những thông tin và tài nguyên từ server lên màn hình người sử dụng, nhưng để làm được công việc hiển thị đó đòi hỏi trình duyệt phải xử lý rất nhiều thông tin và nhiều tầng phía bên dưới. Việc chúng ta (Developers, Testers) tìm hiểu càng sâu tầng bên dưới để nắm được nguyên tắc hoạt động và xử lý của trình duyệt sẽ rất hữu ích trong công việc viết code, sử dụng các tài nguyên cũng như kiểm thử ứng dụng của mình. Cách để npm packages chạy trong browser Câu hỏi phỏng vấn mẹo về React: Component hay element được render trong browser? Khi hiểu được cách thức hoạt động của trình duyệt chúng ta có thể trả lời được rất nhiều câu hỏi như: Tại sao cùng một trang web lại hiển thị khác nhau trên hai trình duyệt? Tại sao chức năng này đang chạy tốt trên trình duyệt Firefox nhưng qua trình duyệt khác lại bị lỗi? Làm sao để trang web hiển thị nội dung nhanh và tối ưu hơn một chút?… Hy vọng sau bài này sẽ giúp các bạn có một cái nhìn rõ hơn cũng như giúp ích được trong công việc hiện tại. 1. Cấu trúc của một trình duyệt Trước tiên chúng ta đi qua cấu trúc, thành phần chung và cơ bản nhất của một trình duyệt web hiện đại, nó sẽ gồm các thành phần (tầng) như sau: Thành phần nằm phía trên là những thành phần gần với tương tác của người dùng, càng phía dưới thì càng sâu và nặng về xử lý dữ liệu hơn tương tác. Nhiệm...

By stationd
Thị trường EdTech Vietnam- Nhiều tiềm năng nhưng còn bị bỏ ngỏ tại Việt Nam

Thị trường EdTech Vietnam- Nhiều tiềm năng nhưng còn bị bỏ ngỏ tại Việt Nam

Lĩnh vực EdTech (ứng dụng công nghệ vào các sản phẩm giáo dục) trên toàn cầu hiện nay đã tương đối phong phú với nhiều tên tuổi lớn phân phối đều trên các hạng mục như Broad Online Learning Platforms (nền tảng cung cấp khóa học online đại chúng – tiêu biểu như Coursera, Udemy, KhanAcademy,…) Learning Management Systems (hệ thống quản lý lớp học – tiêu biểu như Schoology, Edmodo, ClassDojo,…) Next-Gen Study Tools (công cụ hỗ trợ học tập – tiểu biểu như Kahoot!, Lumosity, Curriculet,…) Tech Learning (đào tạo công nghệ – tiêu biểu như Udacity, Codecademy, PluralSight,…), Enterprise Learning (đào tạo trong doanh nghiệp – tiêu biểu như Edcast, ExecOnline, Grovo,..),… Hiện nay thị trường EdTech tại Việt Nam đã đón nhận khoảng đầu tư khoảng 55 triệu đô cho lĩnh vực này nhiều đơn vị nước ngoài đang quan tâm mạnh đến thị trường này ngày càng nhiều hơn. Là một trong những xu hướng phát triển tốt, và có doanh nghiệp đã hoạt động khá lâu trong ngành nêu tại infographic như Topica, nhưng EdTech vẫn chỉ đang trong giai đoạn sơ khai tại Việt Nam. Tại Việt Nam, hệ sinh thái EdTech trong nước vẫn còn rất non trẻ và thiếu vắng nhiều tên tuổi trong các hạng mục như Enterprise Learning (mới chỉ có MANA), School Administration (hệ thống quản lý trường học) hay Search (tìm kiếm, so sánh trường và khóa học),… Với chỉ dưới 5% số dân công sở có sử dụng một trong các dịch vụ giáo dục online, EdTech cho thấy vẫn còn một thị trường rộng lớn đang chờ được khai phá. *** Vừa qua Station D đã công bố Báo cáo Vietnam IT Landscape 2019 đem đến cái nhìn toàn cảnh về các ứng dụng công...

By stationd