2025 rồi, đừng copy-paste thủ công nữa! Cào dữ liệu với FireCrawl cực đơn giản cho dân non-tech

Minh Duc www.youtube.com

Tóm tắt ngắn gọn

Video giới thiệu FireCrawl, một công cụ cào dữ liệu web mạnh mẽ và thân thiện với người dùng, giúp chuyển đổi dữ liệu web thành định dạng phù hợp cho các mô hình ngôn ngữ lớn (LLM) và ứng dụng AI. Các điểm chính bao gồm:

  • Cào dữ liệu web: FireCrawl giúp thu thập dữ liệu từ các trang web để xây dựng cơ sở tri thức cho chatbot và các ứng dụng AI khác.
  • Tính năng chính: Swap, Crawl, Map, Search và Extract.
  • Dễ sử dụng: FireCrawl đơn giản hóa quy trình cào dữ liệu, phù hợp cho cả người không chuyên về kỹ thuật.
  • Phiên bản Open Source và Cloud: Có phiên bản miễn phí (Open Source) với các giới hạn và phiên bản trả phí (Cloud) với nhiều tính năng nâng cao hơn.

Intro

Minh Đức giới thiệu về tầm quan trọng của việc có dữ liệu chất lượng cao để xây dựng các chatbot AI sử dụng dữ liệu của doanh nghiệp. Anh nhấn mạnh rằng bước đầu tiên để xây dựng một chatbot là thu thập dữ liệu, đặc biệt là từ các trang web của doanh nghiệp. Video này giới thiệu FireCrawl, một công cụ cào dữ liệu web hữu ích cho việc này.

Cào dữ liệu làm cơ sở tri thức cho chatbot

Để xây dựng chatbot AI sử dụng dữ liệu doanh nghiệp, bước đầu tiên là phải có dữ liệu chất lượng cao, hay còn gọi là cơ sở tri thức. Cơ sở dữ liệu này cung cấp thông tin cho chatbot để trả lời câu hỏi của người dùng. Một nguồn dữ liệu quan trọng là thông tin trên internet, đặc biệt là từ website của doanh nghiệp.

Giới thiệu công cụ FireCrawl

FireCrawl là một công cụ chuyên về web scraping, giúp biến thông tin trên website thành dữ liệu sẵn sàng cho các mô hình ngôn ngữ lớn (LLM). Công cụ này cung cấp nguồn dữ liệu sạch cho các ứng dụng AI. FireCrawl là mã nguồn mở, cho phép người dùng tải về, cài đặt và sử dụng miễn phí, mặc dù có một số giới hạn so với phiên bản trả phí.

Những thách thức phổ biến khi cào dữ liệu web

Việc cào dữ liệu web đối mặt với nhiều thách thức, bao gồm: thay đổi cấu trúc website, nội dung động (dynamic content) hiển thị qua JavaScript, phân trang và cuộn vô hạn, cơ chế chống bot (ví dụ: CAPTCHA, giới hạn tốc độ truy cập), yêu cầu đăng nhập và xác thực tài khoản, dữ liệu không có cấu trúc hoặc nhiều nhiễu, khả năng mở rộng và hiệu suất, và các vấn đề pháp lý và đạo đức liên quan đến việc cào nội dung.

Các tính năng chính của FireCrawl

FireCrawl không giải quyết được tất cả các vấn đề về cào dữ liệu, chỉ phù hợp với các website thông tin, blog, tin tức, và documentation. Công cụ này không xử lý được các trang yêu cầu đăng nhập hoặc các trang mạng xã hội. Các tính năng chính bao gồm: Swap (cào dữ liệu từ một URL), Crawl (cào dữ liệu từ nhiều trang trên một website), Search (tìm kiếm và cào dữ liệu từ kết quả tìm kiếm), Map (lấy toàn bộ link của website), và Extract (trích xuất dữ liệu có cấu trúc).

FireCrawl có điểm gì đặc biệt? Vì sao nên dùng FireCrawl

FireCrawl mạnh mẽ trong việc cào dữ liệu từ các website thông tin, trả lại định dạng LRM web-ready để cung cấp cho AI. Công cụ này xử lý các phần khó khăn như cơ chế chống bot, nội dung động render bằng JavaScript, và output parsing các định dạng BDS, CSV. FireCrawl có khả năng tùy biến cao, hỗ trợ loại trừ thẻ tag, cào dữ liệu sau tường authentication, tùy chỉnh độ sâu cào, và hỗ trợ nhiều action như click, cuộn, nhập thông tin.

Demo chi tiết các tính năng của FireCrawl

Phần này trình bày cách đăng ký tài khoản miễn phí trên FireCrawl và sử dụng playground để thử nghiệm các tính năng.

Demo 1: Scrape - Cào dữ liệu từ một URL

Tính năng "Scrape" cho phép cào dữ liệu từ một địa chỉ URL cụ thể. Ví dụ, khi đưa một địa chỉ blog vào, FireCrawl sẽ trả lại nội dung ở dạng markdown, giúp người dùng dễ dàng đọc và sử dụng. Có các tùy chọn để loại trừ hoặc chỉ định các thẻ tag cần cào, đợi trang load, và chọn trích xuất nội dung chính (không bao gồm header, navigation, footer).

Demo 2: Crawl - Cào toàn bộ website

Tính năng "Crawl" cho phép cào dữ liệu từ một địa chỉ URL và tất cả các subpage liên kết. Người dùng có thể giới hạn số lượng trang cào và độ sâu trườn bò. Kết quả trả về có thể ở dạng HTML, markdown, hoặc JSON.

Demo 3: Map - Lấy toàn bộ link của website

Tính năng "Map" lấy ra toàn bộ địa chỉ URL trên một website. Công cụ này tìm thấy 136 địa chỉ URL trên website demo, bao gồm các trang blog, sản phẩm và các trang web khác.

Demo 4: Search - Tìm kiếm và cào dữ liệu

Tính năng "Search" tìm kiếm trên web và lấy nội dung từ các kết quả trả về. Ví dụ, tìm kiếm "Top Asian restaurant in Helsinki" và lấy dữ liệu từ top 5 kết quả tìm kiếm.

Demo 5: Extract - Trích xuất dữ liệu có cấu trúc

Tính năng "Extract" trích xuất dữ liệu có cấu trúc từ một trang hoặc toàn bộ website. Ví dụ, trích xuất tên sản phẩm, giá và mô tả sản phẩm từ một webshop. Công cụ này có thể tự động hiểu cấu trúc website, tìm địa chỉ URL, cào dữ liệu, làm sạch và trả lại kết quả theo dạng có cấu trúc.

Giá cả và so sánh bản Open Source vs. Cloud

FireCrawl có gói miễn phí (500 credit) để thử nghiệm, nhưng không rộng rãi. Phiên bản Open Source có các tính năng cơ bản như grap, crawl, LM extract, map, LM romat và bộ SDK. Tuy nhiên, phiên bản này thiếu các tính năng nâng cao như bypass bot protection, proxy rotation, dashboard, actions, browser và browser full scripting, và enterprise features.

Lời kết

FireCrawl là một công cụ mạnh mẽ và thân thiện để cào dữ liệu web, giúp người dùng dễ dàng bắt đầu học và thực hành cào dữ liệu ở mức cơ bản. Công cụ này có thể làm tốt việc lấy dữ liệu trên internet và website của doanh nghiệp, nhưng có hạn chế với các trang social media.

Summarize any YouTube video in seconds

Get summaries like this one for any video, in your language, with the free Summ app.

Download on the Apple Store
Get it on Google Play

Transcript

YouTube Transcript Generator

0:00 Ví dụ bây giờ nếu mà chúng ta làm thủ công á thì chúng ta sẽ phải copy paste những cái dữ liệu này đúng không? Chúng ta phải vào chúng ta phải copy những cái dữ liệu này. Đó thì đấy là cái cách làm thủ công. Còn khi mà chúng ta có một cái công cụ cào dữ liệu á thì chúng ta chỉ đơn giản là lấy cái địa chỉ URL của cái trang đấy để chúng ta đưa vào cái công cụ cào dữ liệu. Đó chỉ cần đơn giản như thế này thôi và chúng ta bấm run là được. Đó thì nó hiện ra cái hình icon gọn lửa này khá là vui mắ nó chạy rất là nhanh thôi. Đợi một vài giây và nó sẽ trả lại cái nội dung của cái trang web đấy. Bởi vì ở đây là chúng ta đang dùng cái tính năng là swap này. Thì chúng ta sẽ có cái nội dung trả lại ở dạng markdown. Dạng markdown này nó như thế này này các bạn. Nó sẽ có những cái dấu thăng đó. Thì đây là cái nội dung ở dạng markdown thì nó đã rất là gọn gàng, sạch

0:46 sẽ rồi ha. Nó cũng rất là thân thiện với cả người dùng. Chúng ta nhìn vào chúng ta có thể đọc được. Rồi bây giờ mình sẽ thử chạy xem là nó sẽ trả lại cái kết quả như thế nào. Rồi lần này thì nó chạy đúng rồi này các bạn ơi. Thì chúng ta có thể thấy ở đây là nó đang cào 15 trang như yêu cầu của mình rồi. Ở đây là những cái trang mà nó cào á mà đây là nó chỉ sẽ cào 15 trang thôi và nó sẽ trả lại đồng thời cả 15 trang này. Thì đây là một blog này, đây là trang home này. Rồi đây là cái bài blog khác. đó thì nó sẽ tự động lấy những cái link và nó sẽ cào dữ liệu ở trên những cái link đấy. Đây là craw link đây này các bạn này. Từ một cái đường link rồi thì nó sẽ trườn bò để tìm ra những cái đường link khác và nó vào những cái đường link đấy để nó cào website và nó trả lại kết quả như thế này này. Bây giờ mình sẽ quay lại cái playground này và mình đưa cho nó một cái câu lệnh. extract on the product

1:31 names, product price, product descriptions from this website. Rồi bây giờ mình sẽ thử chạy xem là nó có tự động nó hiểu được cái yêu cầu của mình không ha. generate parameters tức là nó sẽ search trên toàn bộ cái website này và nó sẽ lấy ra những cái danh sách các cái sản phẩm và trong mỗi một array này nó sẽ lấy ra tên này giá và mô tả sản phẩm đấy. Enable agency thì đây là một cái tính năng mới này. Thì mình sẽ thử bật cái này lên xem là kết quả nó có khả quan hơn không. Giờ mình sẽ chạy lại cái này ha với cái agent này xem là nó có tự đọc hiểu được không. Rồi đây nó cũng tự động nó vào trang web rồi nó cào đây nó lấy ra được những cái địa chỉ URL này. Rồi lần này thì nó lấy ra được chín sản phẩm và nó cũng có format lại cho mình

2:18 là đây là những cái sản phẩm mà nó lấy ra được. Hello, xin chào mọi người. Mình là Minh Đức. Chào mừng mọi người đã đến với video mới này của mình. Thì để xây dựng được những cái con AI chatbot sử dụng dữ liệu của doanh nghiệp thì bước đầu tiên là các bạn phải có dữ liệu chất lượng cao hay là một cái cơ sở tri thức. Mình cung cấp cái cơ sở dữ liệu này cho con chatbot thì nó mới có thể lấy thông tin để trả lời những cái câu hỏi của người dùng đúng không? Thì cái bước đầu tiên trước khi mà chúng ta xây dựng cái con chatbot là chúng ta phải có dữ liệu. Và một cái nguồn dữ liệu rất là thường xuyên đối với các cái doanh nghiệp là những cái dữ liệu ở trên internet mà cụ thể là ở trên website của các bạn. Trong hôm nay thì mình sẽ giới thiệu đến với các bạn một cái công cụ cào dữ liệu web

3:05 strapping sẽ rất là hữu dụng trong cái trường hợp này khi mà chúng ta cần lấy thông tin ở trên website. Thì thật ra là trong một cái video trước của mình về toàn cảnh AI Webstripping trong năm 2025 thì mình cũng đã cố gắng để cung cấp một cái bức tranh khá là toàn diện về những cái công cụ web stripping hiện đang có ở trên thị trường. có rất là nhiều công cụ từ cơ bản đến nâng cao. Thì Fire Craw là một cái công cụ rất là phổ biến, có thể coi là một trong những cái công cụ mà dễ sử dụng nhất, thân thiện với cả người dùng nhất, đặc biệt là những cái bạn Ntech. Chính vì thế mà mình quyết định là chọn file craw để giới thiệu với các bạn trong cái video này. Có rất là nhiều công cụ nhưng mà mình nghĩ là bắt đầu với cả file craw sẽ cho các bạn một cái

3:50 nền tảng khá là ổn để các bạn hiểu về cách thức những cái công cụ này nó hoạt động, các cái tính năng chính của các cái công cụ web striping. Bạn có thể làm gì với những cái công cụ cào dữ liệu này? Bởi vì file craw nó đã cố gắng làm cho cái phần cào dữ liệu của người dùng trở nên rất là đơn giản ha. Thì video này là một phần ở trong khóa học về RCK chatbot của mình. Khóa học này sẽ giúp các doanh nghiệp nhỏ, các cái startup xây dựng những cái AR chatpot, sử dụng nguồn trí thức của doanh nghiệp của bạn để hỗ trợ khách hàng này, chăm sóc khách hàng này. Vậy thì file craw là gì? File craw là một cái công cụ chuyên về web stripping là cào dữ liệu. Nó sẽ turn websites into LM dator. Tức có nghĩa là

4:38 nó sẽ biến những cái thông tin ở trên website trở thành những cái dữ liệu sẵn sàng cho vào LM là các cái mô hình ngôn ngữ lớn. Nó sẽ cung cấp cho những cái ứng dụng AI của bạn một cái nguồn dữ liệu sạch được lấy từ trên các cái website. Ở đây thì họ cũng nhấn mạnh là file craw là open source là mã nguồn mở. Tức có nghĩa là bạn có thể download về máy, bạn có thể tự cài, tự host để sử dụng hoàn toàn miễn phí. Tất nhiên là cái bản Open Source này nó cũng sẽ có một số giới hạn. Thì cái phần giới hạn thì mình sẽ giải thích kỹ hơn, mình sẽ đi sâu vào ở cái phần sau nhé. Đây là trang chủ của File Craw. Ở đây là họ có một cái hình minh họa là các cái nội dung ở trên website sẽ được trả lại thành một cái định dạng với những cái dữ

5:25 liệu mà chúng ta cần ở một cái định dạng mà nó thân thiện với cả các cái mô hình ngôn ngữ lớn. Thì thật ra là cái hình này mình thấy nó chưa rõ ràng lắm. Thì mình đã chuẩn bị một vài cái slide và mình có một cái hình này mình nghĩ là có thể là nó sẽ dễ hiểu hơn. Tức là đối với cả những cái con boss mà nó đi cào cấu dữ liệu ở trên internet á, ở những cái trang website đẹp đẽ về mặt giao diện ấy thì đằng sau nó chính là code là rất nhiều code trông nó loạn xã bát nháo như thế này này các bạn. Khi mà mình sử dụng một cái công cụ cà dữ liệu như là file craw thì từ những cái đống dữ liệu dạng code như thế này rất là messy, rất là hỗn loạn, nó sẽ được làm sạch lại và nó trả lại một cái format. Cái này gọi là markdown format rất là dễ nhìn, không chỉ cho con người mà nó cũng rất là thân thiện. với cả AI, với cả các cái mô hình

6:12 ngôn ngữ lớn. Cào dữ liệu trên web là một cái chủ đề lớn và thật ra là nó cũng không phải là chủ đề đơn giản. Ở đây thì mình cũng liệt kê ra một số cái vấn đề và những cái thách thức phổ biến khi mà chúng ta cần cào dữ liệu. Thứ nhất là những cái thay đổi về cấu trúc website là nhiều công cụ cào dữ liệu dựa vào cấu trúc HTML cụ thể. Ví dụ như là tên của thẻ Tab này, tên của class này nên là khi mà website thay đổi bố cục thì công cụ cào dữ liệu có thể bị lỗi và không hoạt động nữa. Thứ hai là những cái dynamic content là dạng nội dung động, tức là những cái trang mà nó được hiển thị thông qua JavaScript thì có thể hiểu là những cái dữ liệu mà chúng ta muốn thu thập thì nó không có ở trong HTML ban đầu mà những nội dung này nó sẽ được

6:59 tải qua JavaScript nha. Tức là khi mà chúng ta thực hiện một cái hành động nào đấy rồi thì cái nội dung đấy nó mới được tải xuống cho chúng ta nhìn thấy. Ví dụ như là những cái trang như là YouTube này hay là Facebook này thì không phải là tất cả nội dung nó đều giống nhau cho tất cả mọi người. Và thường thường là khi mà bạn đăng nhập vào website đấy thì là những cái nội dung đấy nó sẽ được load tải xuống dành riêng cho bạn. Đấy và không phải là tất cả nội dung nó đều được tải xuống mà ví dụ có thể là khi mà các bạn quận xuống dưới á thì nhiều nội dung nó mới hiển thị ra thêm chứ không phải là tất cả là nó đều hiển thị ngay từ ban đầu để mà các bạn có thể cào được. Vấn đề thứ ba nó cũng liên quan đến cái mà mình vừa mới nói đến ở trên là phân trang và scroll là quận vô hạn. Tức là sao? Tức là dữ liệu nó được trải

7:45 dài ở trên nhiều trang hoặc khi mà bạn quận á thì nó mới hiển thị thêm thông tin. Rồi thứ tư là một cái vấn đề rất là khó chính là những cái cơ chế để chống bó có rất là nhiều cơ chế mà phổ biến nhất thì chúng ta hay gặp nhất là những cái ví dụ như là capture này tức là nó hiển thị ra những cái ký tự trông nó rất là khó đọc. Tức là đối với người thì có thể là nhìn thấy những ký tự đấy nhưng mà những cái con boss thì có thể là nó không có đọc rõ, nó không nhìn rõ được những cái ký tự đấy là gì và nó không vượt qua được cái bài kiểm tra hay là cơ chế về red limit tức là giới hạn cái red, giới hạn cái tốc độ á. Và nếu mà căng hơn thì là cấm IP. Tức là các bạn hiểu là khi mà các bạn truy cập một cái trang web nào đấy á thì trang web đấy nó

8:31 sẽ biết được cái địa chỉ IP của bạn. À khi mà bạn cào dữ liệu á, tức là bạn thực hiện đăng nhập vào rất nhiều những cái trang web khác nhau từ cùng một cái địa chỉ IP trong một cái khoảng thời gian rất là ngắn đúng không? Thì đấy cũng chính là cái tín hiệu cho biết là bạn đang sử dụng website sai mục đích, bạn đang cào dữ liệu hay là bạn đang làm một cái thứ gì đấy có thể là nguy hiểm đến cái website đấy thì lập tức nó sẽ kích hoạt cái cơ chế bảo vệ website và chống boss. Nó là một vài cái cơ chế rất là phổ biến mà thật ra là còn nhiều những cái cơ chế khác nữa. Thứ năm là về cái đăng nhập và xác thực tài khoản. Thì cái này cũng rất là hiển nhiên thôi là với khá là nhiều website thì bạn phải đăng nhập vào thì bạn mới nhìn thấy cái nội dung đúng không? Chứ không phải là nội dung là nó có sẵn và bạn có thể nhìn

9:17 thấy nó publicly gly không cần phải đăng nhập vào. Rất nhiều trang web bây giờ nó sẽ khóa nội dung ở sau cái bức tường đăng nhập và bạn phải đăng nhập vào tài khoản của bạn. Thậm chí là tài khoản của bạn phải là một cái dạng tài khoản trả tiền thì bạn mới nhìn thấy cái nội dung đấy. Vấn đề thứ sáu là những cái dữ liệu không có cấu trúc hoặc là có rất là nhiều noi nhiễu dữ liệu. Bởi vì là HTML có thể chứa những cái dữ liệu lồng nhau không nhất quán hoặc là trùng lặp. Vì vậy mà sẽ khá là khó khăn trong cái việc trích xuất ra được những cái dữ liệu sạch sẽ. Vấn đề thứ bảy về cái khả năng mở rộng và hiệu suất thì cái này nó sẽ xảy ra khi mà cái nhu cầu của chúng ta sẽ cần phải cào hàng trăm hàng nghìn trang web nhanh chóng thì nó sẽ trở nên chậm hoặc là rất là tốn kém. Thứ tám và

10:03 cuối cùng là những cái vấn đề về pháp lý và đạo đức. Thì cái này mình cũng đã nói đến nhiều rồi là cái việc cào nội dung thì nó khá là nhạy cảm. Thật ra nó sẽ vi phạm những cái điều khoản dịch vụ của đa số website hoặc là những cái luật về bảo vệ dữ liệu như là GTP ở bên Châu Âu này chẳng hạn. Rồi tiếp theo quay trở lại với cả website của Firecraw. Ở đây thì mình sẽ tiếp tục đi vào những cái tính năng chính của Firecraw. Thật ra thì Firecraw nó cũng không hẳn là giải quyết được tất cả những cái vấn đề về cào dữ liệu đâu các bạn. Cụ thể là Firecraw nó chỉ có thể cào dữ liệu ở trên một số cái dạng website là những cái website theo kiểu như là thông tin á, những cái website theo dạng có sẵn thông tin hay là dạng doc documentation hay là những

10:48 cái trang kiểu như là blog news thì nó có thể là cào được dữ liệu trên những cái trang đấy. Nhưng mà những cái trang mà bạn phải đăng nhập vào hay là ở trên social media thì hiện thời là file craw nó cũng chưa xử lý được cái bài toán đấy. Thì Firecraw xử lý được khá là nhiều cái vấn đề cơ bản và phổ biến của việc cao dữ liệu ở trên Internet. Nhưng mà cũng có một số cái giới hạn nó cũng chưa làm được. Thì những cái đấy thì những cái giới hạn của Fire Craw thì chắc là mình sẽ đề cập ở cái phần sau ha. Trước hết là chúng ta biết là đây là một cái công cụ về cào dữ liệu rất là mạnh mẽ ha. Có rất là nhiều tính năng. Và ở đây thì trên cái website của File Craw thì họ cũng có nhấn mạnh vào những cái tính năng này là swap craw và search. Craw là cào đi nhỉ? Chúng ta hay

11:34 nói là cào dữ liệu là lấy những cái dữ liệu sẵn sàng cho vào LM từ trên những cái website. Những cái dữ liệu này thì nó có thể là ma này hay là ở dạng Jon này hay thậm chí là những cái swens shot là những cái chụp màn hình của website á. Tiếp theo là cái phần về craw trườn là bò là giống như kiểu con nhện á. Cái mạng nhện thì nó gọi là nó giống như gọi là khi mà con nhện thì nó bò thì cái lưới của nó nó sẽ tỏa ra nhiều hướng đúng không? Thành một cái mạng nhện. Thì cái craw này dịch là trườn là bò nhỉ. Nhưng mà đại ý là nó sẽ lấy dữ liệu ở rất là nhiều trang ở trên một website nó sẽ lấy ra được cái kết cấu mạng lưới những cái trang ở trên website và lấy được thông tin ở trên mỗi cái trang đấy. Và search là sao? Search là tìm kiếm từ

12:20 trên web và lấy toàn bộ nội dung từ những cái kết quả tìm kiếm. Thì cái này là một cái tính năng khá là mới này. Ngoài hai cái này ra thì thật ra là còn hai cái tính năng nữa. Nếu mà mình đăng nhập vào cái phần dashboard thì các bạn sẽ thấy này, mình sẽ vào cái phần playground có thêm cái map này. Thứ nhất là cái map và thứ hai là extract tức là trích xuất những cái dữ liệu từ trên website. Đó tính ra là có năm tính năng chính của file mà đây thì họ nhấn mạnh có ba cái. Trên slide của mình thì mình ghi rõ ràng ra là nó có năm cái tính năng là swap này là cào dữ liệu trên một cái địa chỉ URL lấy nội dung trả về theo cái dạng mà lm RPY. Thứ hai là craw. Craw là cào, lấy được cái mạng lưới những cái trang web liên kết với nhau và

13:06 sau đó là cũng lấy được cái nội dung ở trên những cái trang đấy để trả về cái dạng thân thiện với cả các cái mô hình ngôn ngữ lớn. Thứ ba là map. Map là bản đồ á. là khi mà mình nhập một cái địa chỉ website vào thì nó sẽ lấy được toàn bộ những cái link URL ở trên cái website đấy. Cái tính năng này sẽ khá là thiết thực với những cái website mà mình không biết được cái size map của cái website đó. Cái sign map là file mà nó liệt kê ra toàn bộ link UR ở trên website đấy. Tí mình sẽ cho các bạn xem cái sign map đấy nó trông như thế nào ha. Tính năng thứ tư là search tìm kiếm ở trên website và lấy toàn bộ nội dung từ kết quả trả về. Và thứ năm cuối cùng là extract là trích suất, tức là cũng là cào dữ liệu nhưng mà bây giờ thì nó không phải là nó trả lại toàn bộ dữ liệu mà nó sẽ trả về

13:51 những cái dữ liệu có cấu trúc theo cái yêu cầu của chúng ta. Tức là chúng ta muốn có những cái thông tin gì trên cái trang web đấy. Nó sẽ có rất nhiều thông tin nhưng mà bây giờ chúng ta muốn nó trả về một cái dữ liệu có cấu trúc. có thể là tên sản phẩm này, giá sản phẩm này, số lượng còn lại này. Đấy, tức là chúng ta muốn cái thông tin gì thì chúng ta sẽ yêu cầu nó chỉ trả lại những cái thông tin đấy thôi chứ không cần phải trả lại toàn bộ thông tin ở trên cái trang web đấy. Cái đó gọi là trích xuất ha. Rồi mình kéo xuống phía dưới này đây thì ở đây là nó cũng có nhấn mạnh những cái điểm mạnh những cái tính năng của cái fire craw này có crawing này là thu thập những dữ liệu sạch media ping gọi là chuyển đổi á tức là nó sẽ từ những cái dữ liệu đấy nó sẽ làm sạch một lần những cái dữ liệu từ website này từ PDF

14:37 này từ Doc này thì nó có thể là chuyển đổi được những cái dạng file đấy để nó lấy ra cái thông tin rồi smartw là sẽ chờ đợi một cách thông minh cho nội dung để nó tải. Tức là với một số website thì nó sẽ cần một chút thời gian để nó tải á. Thì cái này nó sẽ có tính năng mà chờ đợi để khi mà nội dung nó tải ra rồi nó mới tiến hành nó cào. Rồi actions là hành động này là nó có thể giả lập những cái hành động như là click này là bấm này, son là cuận này, write là viết, wợi, press cũng là bấm và thực hiện rất là nhiều những hành động trước khi mà nó trích xuất cái dữ liệu. Tức là với một số website, đặc biệt là những cái website theo dạng là chúng ta phải thực hiện một số hành động á thì nó mới hiện ra cái thông tin ở trên cái trang đấy. Thì cái này là cái phần action này.

15:23 Reliability first là cái độ tin cậy chính là cái điểm focus của cái file craw này. Tức là sử dụng nó thì chúng ta có thể tin tưởng là nó sẽ hoạt động à nó sẽ trả lại kết quả như yêu cầu. Cuối cùng là dynamic content. Thì đây cũng là một cái phần rất là khoai khi mà cần cào dữ liệu ở trên website. Tức là những cái nội dung này nó là dạng động. Nội dung này nó sẽ được render, nó sẽ được hiển thị bởi JavaScript. Thì cái file craw này nó sẽ xử lý JavaScript này, SPA này và những nội dung theo dạng động. Và chúng ta có thể là cấu hình nó ở mức tối thiểu thôi để xử lý những cái vấn đề về nội dung động này. Thì cái ở trên website thì mình thấy là nó trình bày nó hơi ngắn gọn và nó chưa đầy đủ lắm cho nên là mình cũng làm riêng một live để

16:09 liệt kê cụ thể hơn về những cái tính năng của file craw. Vì sao? Nó là một cái công cụ cào dữ liệu được rất là nhiều người sử dụng khá là hot trong thời gian vừa rồi đấy. Thì đầu tiên là file craw nó sẽ rất là mạnh trong trường hợp mà chúng ta cần cào dữ liệu ở trên những cái website như kiểu như là có thông tin á hay là những cái trang dạng doc hay là head center social media thì hiện thời là chưa được support này. Nó sẽ trả lại cái format LRM web đi để mà chúng ta có thể cung cấp luôn cho AI. Nhưng cái format này thì nó có thể là ma down này, dữ liệu có cấu trúc này, screenshot, html rồi link rồi metadator và fire craw. Như mình nói là nó đã xử lý hết những cái phần khó khăn rồi. Nó sẽ có bằng proceed rồi bằng những cái cơ chế để chống boss, anti boss này rồi xử

16:55 lý được cái vấn đề về nội dung động được render với JavaScript. Output passing nó cũng xử lý được những cái dạng như là BDS này hay là CSV rồi orchestration tức là cái công cụ này nó đã được đóng gói lại thành một cái sản phẩm người dùng có thể sử dụng dễ dàng và nó đã xử lý hết những cái phần khó rồi. Về cái customizability là cái khả năng tế biến thì cũng khá là đa dạng này. theo kiểu như là nó sẽ có những cái như là loại trừ những cái thẻ tác ở trong cái HTML này rồi cào dữ liệu đằng sau những cái tường authentication tức là bạn phải đăng nhập vào á thì bạn mới có thể truy xuất những cái nội dung đấy. Rồi max cep tức là cái độ sâu để cào chúng ta cũng có thể tùy chỉnh là nó sẽ cào đến độ sâu tầng hai, tầng 3, tầng 4. Là sao? Khi mà

17:42 chúng ta vào một cái trang web ấy thì nó có thể là nó có những cái link đến những cái trang khác đó thì nó có thể là cứ theo những cái đường link đấy cào đến tầng hai tầng 3 tầng 4 rồi media passing cái passing này nó như kiểu gọi là chuyển đổi nha tức là đọc và lấy thông tin từ file PDF này từ file doc này từ hình ảnh này rồi reliability đó mình cũng đã nói cái này rồi là cái độ tin cậy là được đặt lên hàng đầu để làm sao nó sẽ lấy ra được cái dữ liệu mà chúng ta cần và những cái actions thì Nó hỗ trợ rất là nhiều action này, click này, quận này, rồi input, điền thông tin gì đấy. W là chờ đợi trước khi mà nó trích xuất cái phần dữ liệu. Như mình nói là có nhiều trang web là bạn phải thực hiện một cái hành động nào đấy thì nó mới hiện ra cái dữ liệu. Thì từ đó thì chúng ta mới có thể lấy cái dữ liệu đấy. Use

18:28 thì tất nhiên là cái case phổ biến nhất là chúng ta cần thu thập dữ liệu đúng không? Chúng ta cần thu thập dữ liệu để tạo thành một cái cơ sở tri thức, một cái knowledge base. Từ đó chúng ta có thể xây dựng những cái giải pháp AI của chúng ta. Ví dụ như là phổn biến nhất chính là tạo ra một cái con AI chatbot. Đấy và nó sẽ có khả năng sử dụng những cái nguồn tri thức của nó để trả lời câu hỏi. Rồi lead enrichment tức là làm giàu những cái thông tin về lead là những cái người khách hàng tiềm năng á. Rồi, MCP cũng là một cái công nghệ, một cái framework rất là mới. Ở File CR này cũng đã có một cái MCP để chúng ta có thể làm được rất là nhiều trò. Thì cái chủ đề MCP này cũng mới và cũng rất là thú vị. Chắc là mình cũng sẽ ra một cái video để nói thêm về cái chủ đề này. Rồi AI platform, rồi Deep Research. Đó nói

19:15 chung là một vài cái được liệt kê ở đây. Bạn làm chủ một doanh nghiệp nhỏ, một nhà quản lý hay đơn giản là một người muốn ứng dụng R chatbot thông minh vào công việc kinh doanh của bạn. Bạn muốn học hỏi để xây dựng cái quy trình tự động hóa giúp nâng cao trải nghiệm khách hàng mà không muốn đầu tư tốn quá nhiều chi phí. Khóa học xây dựng RAF Chatbot cho startup và doanh nghiệp nhỏ của mình chính là cái giải pháp dành cho bạn. Bạn có thể học online qua video linh hoạt về mặt thời gian và khóa học sẽ giúp bạn tự tay xây dựng chatpot cực kỳ mạnh mẽ phục vụ cho công việc và kinh doanh của bạn. Tóm tắt thì trong khóa học này mình sẽ giúp bạn nắm vững kiến thức về rác cơ bản và rá nâng cao. Xây dựng một cái cơ sở dữ liệu thông minh từ những cái tài liệu, file PDF hay là bảng biểu dữ liệu doanh nghiệp của bạn. Ngoài ra thì bạn

20:00 cũng sẽ được học thêm về cả dữ liệu cơ bản từ web và nạ xã hội để đóng gói thành một cái knowledge base cho chatbot của bạn để cuối cùng thì bạn sẽ áp dụng và xây dựng được một cái con chatbot phục vụ cho việc bán hàng, hỗ trợ khách hàng và tự động hóa quy trình. Với khóa học này, bạn sẽ học rất là thực tiễn để có thể áp dụng vào ngay và doanh nghiệp của bạn. Bạn cũng sẽ nhận được toàn bộ những tài liệu workflow được sử dụng ở trong khóa học. Mục đích cuối cùng là giúp doanh nghiệp của bạn tạo ra chatpot thông minh, giúp giảm chi phí vận hành và tăng được cái lợi thế cạnh tranh. Chỉ với vài tiếng tự học qua khóa học này, mình tin là bạn sẽ tự tin xây dựng được một cái contract trap chuyên nghiệp, tích hợp những cái dữ liệu riêng của doanh nghiệp của bạn. Đăng ký mua ngay khóa học ngày hôm nay và bắt đầu hành trình nâng cấp doanh nghiệp của bạn với AI ngay thôi nhỉ. Thì link đến khóa học mình sẽ để ở trong phần mô tả video ở phía dưới. Bạn có thể truy cập vào để

20:46 đọc thêm thông tin và đặt mua ngay với cái mức giá ưu đãi nhất ngay từ hôm nay nhé. Ok. Trong phần này thì mình sẽ demo rất là nhanh những cái tính năng của Fire Craw để các bạn dễ hình dung là một cái công cụ cào dữ liệu sẽ hoạt động như thế nào ha. Chúng ta sẽ đăng ký một cái tài khoản miễn phí ở trên Firecraw. Các bạn có thể dùng cái link của mình ở trong phần mô tả video. Thì nếu mà dùng cái link đấy các bạn sẽ được tặng thêm một cái số lượng free credit á để có thể sử dụng. Rồi bây giờ quay lại đây thì chúng ta đăng nhập vào. Chúng ta sẽ vào cái phần là playground nàyọ là sân chơi á. Những cái này thì rất là nhiều công cụ AI nó đều có để chúng ta có thể thử nghiệm những cái tính năng. Ở đây thì chúng ta có thể nhìn thấy là nó có bốn cái tính năng này và ngoài ra còn có một cái là extract chiết suất. Đấy thì tí mình cũng sẽ minh họa cái này ha. Thì single URL khi mà chúng ta di chuyển con

21:33 trỏ lên trên cái chữ này nó sẽ hiện ra một cái phần mô tả. Mình thấy cái này khá là hay thì nó sẽ giải thích là cái tính năng này làm cái gì là chúng ta sẽ cho nó một cái địa chỉ URL và nó sẽ chỉ cào dữ liệu từ cái địa chỉ này thôi. Bây giờ mình sẽ thử một địa chỉ website đi nhỉ. Vì cái phần cào dữ liệu này nó cũng hơi nhạy cảm cho nên là mình sẽ thử với cả một cái website của mình ha. Mình có khá là nhiều website nhưng mà mình sẽ thử với cả một cái website tiếng Anh này đi. Mình sẽ vào một cái bài blog. Đấy cái bài blog này nó như thế này này. Chủ đề về RAP retriffle augmented generation này thì đây là một cái bài blog khá là dài. Nó có rất là nhiều nội dung đấy. Nó có chapter rồi sub chapter. Thì cái này thật ra là mình tạo ra với cả một cái workflow tự động hóa N8N của mình. Nó gọi là cái phiên bản deeper research á.

22:20 thì nó sẽ tạo ra một cái bài rất là dài như thế này. Anyway thì nếu mà chúng ta nhìn vào cái phần code á, chúng ta nhìn vào cái phần code của cái trang vừa rồi mình vừa xem thì chúng ta có thể thấy đúng không? Nếu mà code thì nó sẽ rất là nhiều, nhiều hơn hẳn so với cái giao diện mà chúng ta thấy đấy. Đấy thì thật ra là khi mà dùng những cái công cụ cào như thế này là nó đã tự động nó làm sạch và nó trích xuất dữ liệu cho chúng ta rồi. Đấy. Ví dụ bây giờ nếu mà chúng ta làm thủ công á thì chúng ta sẽ phải copy paste những cái dữ liệu này đúng không? chúng ta phải vào chúng ta phải copy những cái dữ liệu này. Đó thì đấy là cái cách làm thủ công. Còn khi mà chúng ta có một cái công cụ cào dữ liệu á thì chúng ta chỉ đơn giản là lấy cái địa chỉ URL của cái trang đấy để chúng ta đưa vào cái công cụ cào dữ liệu. Đó chỉ cần đơn giản như thế này thôi. Và chúng ta bấm run là được. Bây giờ mình sẽ bấm ha,

23:06 mình sẽ bấm chạy luôn này. Đó thì nó hiện ra cái hình icon gọn lửa này khá là vui mắt. Nó chạy cũng rất là nhanh thôi. Đợi một vài giây và nó sẽ trả lại cái nội dung của cái trang web đấy. Bởi vì ở đây là chúng ta đang dùng cái tính năng là swap mà. Thì chúng ta sẽ có cái nội dung trả lại ở dạng markdown. Dạng markdown này nó như thế này này các bạn. Nó sẽ có những cái dấu thăng. Cái này là thẻ H2 này. Đây là thẻ H3 này. Đó thì đây là cái nội dung ở dạng ma down thì nó đã rất là gọn gàng, sạch sẽ rồi ha. Nó cũng rất là thân thiện với cả người dùng. Chúng ta nhìn vào chúng ta có thể đọc được và nó cũng lấy khá là ok á. Nó cũng lấy rất là chính xác. Cái nội dung của cái trang web đấy thì nó cũng đã lấy được. Rồi dạng Jason thì nó là một cái format chat thôi. Jon thì nó sẽ là có cái dạng mà key và value thì nó sẽ trả lại những cái nội dung của website đấy ở

23:53 cái dạng Jason. Rồi ngoài ra thì nó sẽ có thêm một số cái thẻ khác ví dụ như là metadator này rồi thêm khá là nhiều những cái thông tin khác này. Đó thì đây là những cái thông tin mà nó trả lại ở cái dạng down. Thì với cái dạng này chúng ta có thể copy và chúng ta có thể tổng hợp lại thành một cái cơ sở dữ liệu để cung cấp cho cái con AI chatbot của chúng ta. Đấy thì đây là minh họa cho cái phần cào dữ liệu với một cái địa chỉ URL. Ở đây thì mình sẽ mở cái phần option này đi qua rất là nhanh một số cái tùy chọn khác. Ví dụ như là exclude tab này, bỏ thẻ là những cái tab hay là class hay là ID chúng ta muốn bỏ qua và chúng ta không muốn cào. Chúng ta thêm ở đây. Rồi include only là ví dụ là có một số cái thẻ chỉ chúng ta muốn, chúng ta chỉ muốn cào những cái thẻ này chúng ta cho vào đây. Rồi wait for này là đợi cái

24:40 page này nó load trong bao lâu đấy sẽ hữu dụng trong trường hợp mà website nó load chậm. Là time out. Tức là khi mà chúng ta gửi yêu cầu để cáo cái trang web này thì nó sẽ đợi bao lâu? Có thể ở trang web này nó sẽ không load hoặc là nó load quá lâu thì chúng ta cũng có thể thêm cái time out này vô. Rồi bên tay phải này thì đây là cái mà chúng ta nên chọn là chỉ trích xuất những cái nội dung chính thôi là không có headers này, không có navigation là điều hướng á và footers. Tức là sao? Tức là ví dụ khi mà mình quay lại đây thì cái phần này nó là header này. Toàn bộ cái phần trên là header. Còn cái phần này là điều hướng này. Có menu này. Rồi có những cái nội dung để điều hướng. Đấy, đây mới là cái nội dung chính của cái website. Đây mới là cái nội dung chính của website mà chúng ta muốn cào này. Đó, và phía dưới này thì là cái footer tức là chúng ta

25:26 chỉ muốn lấy cái nội dung chính của website thôi để mà nó ra được cái markdown chúng ta có thể sử dụng. Nhưng mà thật ra là bản thân cái Mdown này thì nó cũng chưa phải là hoàn hảo. Nó cũng sẽ có một số cái phần mà thật ra mình cũng không cần lắm. Ví dụ ở đây là mình thấy cái phần này mình không cần lắm này. Mình chỉ cần cái phần bắt đầu cái nội dung của cái bài đấy thôi. Rồi kéo đến xuống cuối cùng. Đấy thì nó cũng sẽ có một số cái phần mà nó thuộc về cái phần điều hướng hoặc là nó cũng không liên quan lắm đến phần nội dung của website. Thì thật ra là chúng ta cũng có thể có thêm một cái bước là chúng ta sẽ làm sạch lại thêm một lần nữa. Có thể dùng AI hoặc là làm thủ công á để làm sao chúng ta chỉ giữ lại những cái dữ liệu mà nó liên quan nhất thôi. Vì về sau là cái con chatbot á mình sẽ cung cấp cho nó cơ sở dữ liệu mà. Thì đây chính là một cái nội dung ở trong cái cơ sở dữ liệu đấy. Thì chúng ta càng làm sạch dữ liệu thì cái kết quả trả về của

26:11 AI này thì nó sẽ càng gọn gàng hơn thôi. Rồi tiếp theo là về cái sty mode này. Stell mode này là sẽ khuyến nghị cho những cái website là nó có cái cơ chế block scrapping hay là có những cái kiểm soát chống boss nó rất là chặt thì dùng cái này nó sẽ tính là 5 credit cho một trang. Rồi cái output format thì nó sẽ có mark down này, link này, Jon là mặc định rồi. Html type thì chúng ta cũng có thể lấy lại là HTML, clean raw, viewport rồi full page viewport này. View là chỉ lấy cái phần mà chúng ta nhìn thấy thôi. Khi mà chúng ta vào một cái website thì chúng ta nhìn thấy cái phần màn hình nào thì chúng ta lấy cái đấy thôi. Hoặc chúng ta có thể lấy là full page là toàn bộ cái shot của cái website đấy. Bây giờ mình sẽ chạy lại với cả những cái tùy chọn mới này ha. Bây giờ mình sẽ chạy

26:58 lại thêm một lần nữa để mình demo cho các bạn xem cái trang web của mình. Thật ra là mình cũng để cái cơ chế mà chặn mod của Cloud Flare á. Mình dùng cái file craw này nó cũng đã vượt qua được cái chặn của file craw. Rồi bây giờ thì nó đã trả lại thêm một số cái tab này. Mdown này thì có vẻ như là vẫn là như vậy thôi. Rồi cái phần về link tức là nó đã lấy ra toàn bộ những cái link trong cái bài blog này là nó sẽ có những cái link nội bộ rồi có những cái link đến những cái trang web bên ngoài nữa. Đó. Thì đây là cái phần link này. Xuyên shot. Xuyên shot là nó lấy ra nội dung của cái ảnh chụp màn hình á. Đây chúng ta có thể thấy đây có vẻ là nó cũng hơi hơi bị lỗi một chút về cái phần menu này này. Chắc là cái menu này nó đang hơi bị to quá. Đó thì đây là cái screenshot này. Screenshot của toàn bộ bài block

27:44 vừa rồi này. Rồi Jason respon. Đấy thì cũng tương tự thôi trả lại cái thông tin. Nhưng mà ở dạng format JSON là có cặp key và value thì tất cả những cái thông tin thì nó sẽ trả lại ở đây. Và lần này có vẻ nó trả lại đầy đủ hơn những cái mà chúng ta yêu cầu thêm vào. Ví dụ là cái phần về link này. Toàn bộ những cái link nội bộ rồi link ra bên ngoài nó cũng cho hết vào đây này. Đó thì sẽ có rất là nhiều thông tin để chúng ta tiếp tục xử lý. Rồi tiếp theo thì mình sẽ minh họa về cái tính năng là craw. Craw tức là chúng ta chỉ cần đưa cho nó một cái địa chỉ URL thôi thì nó sẽ truy cập cái địa chỉ này và tất cả những cái sub page mà nó có thể tìm thấy rồi sau đó là nó sẽ trả lại content from each page. Đ như là một con nhện á nó đi đến trang này thì cái trang đấy nó lại

28:29 có link đến những cái trang khác thì nó sẽ đi vào hết những cái trang đấy. Thì đấy là craw. Ở đây là mình sẽ thử chắc là cũng với trang này đi nhỉ nhưng mà mình sẽ không muốn nó cào toàn bộ mà mình chỉ muốn nó lấy ra ví dụ như là 10 trang thôi đó. Và cái maxdep là cái độ sâu nó sẽ trườn bò đến đâu thì có thể là mình sẽ để là chỉ đến hai cấp độ thôi. Tức là khi mà nó đến cái trang thứ hai thì nó lại tìm thấy link và nó để nó đi tiếp. Nhưng mà đến những cái trang đó là ở cấp thứ ba thì nó sẽ không cào nữa, nó chỉ dừng lại ở cấp thứ hai thôi. Rồi những cái tùy chọn về ex part này tức là bỏ hoặc là thêm cái part này vào thì cũng có ở đây ignore sign map rồi allow backw link này option đó thì cũng có khá nhiều này. Ờ chắc là mình sẽ để cái này là clean đi nhỉ. Có clean draw không? chỉ là một trong hai. Lần này mình sẽ

29:14 thử với cả HTML clean đi. Đó và bây giờ thì mình sẽ bấm chạy để mình xem là cái craw này thì nó sẽ hoạt động khác như thế nào so với cả cái swap single URL. Vì cái này là nó đang thực hiện request ở dạng song song á parallel thì nó sẽ trả lại kết quả nhanh hơn. Rồi bây giờ thì chúng ta sẽ thấy này là cái mà nó trả lại thì cũng là cái file down của cái trang đấy đúng không? Ừ, tức là vẫn là nội dung của trang đấy này. Có thêm cái thẻ HTML này. Tức là đây là toàn bộ cái nội dung của cái trang mình muốn cào. Nhưng mà ở định dạng là HTML. Đó, thì chúng ta có thể thấy là tất cả những cái nội dung, những cái thẻ đấy đây. Trong trường hợp chúng ta muốn xem kỹ để chúng ta là thêm nội dung phần nào, bỏ nội dung phần nào thì chúng ta có thể vào cái thẻ HTML này để chúng ta xem cho kỹ á. hoặc là chúng ta dùng cái trình

30:00 duyệt rồi chúng ta xem cái phần code của nó thôi, phần nào chúng ta muốn lấy, cái phần nào chúng ta không muốn lấy thì chúng ta có thể chỉ rất là rõ ràng để cái công cụ này nó hiểu. Rồi tiếp theo là cũng là link này. Rồi swing shot này. Lần này nó đã lấy cái screenshot thành công này. Nó lấy được toàn bộ screenshot và có cả ảnh luôn. Jason respon thì cũng tương tự thôi. Trả lại kết quả ở định dạng Jon. Nhưng mà mình cũng đang hơi bị thắc mắc một chút là mình tưởng là nó sẽ lấy ra cái địa chỉ trang này và toàn bộ những cái trang con nhỉ. Nhưng mà ở đây thì có vẻ như nó chỉ lấy ra một trang thôi. Bây giờ mình sẽ thử lại với cả cái trang home đi nhỉ. Ví dụ bây giờ mình sẽ lấy cái trang home này đi. Và mình sẽ để là limit là lên ví dụ như là 15 đi. Rồi bây giờ mình sẽ thử chạy xem là nó sẽ trả lại cái kết quả như thế nào. Rồi lần

30:47 này thì nó chạy đúng rồi này các bạn ơi. Thì chúng ta có thể thấy ở đây là nó đang cào 15 trang như yêu cầu của mình rồi. Ở đây là những cái trang mà nó cào á. Tức là chúng ta có thể đưa cho nó yêu cầu nó cào 100 trang á. Mà đây là nó chỉ sẽ cà 15 trang thôi và nó sẽ trả lại đồng thời cả 15 trang này. Thì đây là một blog này, đây là trang home này, rồi đây là cái bài blog khác. đó thì nó sẽ tự động lấy những cái link và nó sẽ cào dữ liệu ở trên những cái link đấy. Đây là craw link đây này các bạn này. Từ một cái đường link rồi thì nó sẽ trườn bò để tìm ra những cái đường link khác và nó vào những cái đường link đấy để nó cào website và nó trả lại kết quả như thế này này. Thì với cái craw này mình sẽ dùng khi mà chúng ta vừa muốn lấy cái size map. Chúng ta không có size mà chúng ta chỉ muốn tự cào và nó tự lấy dữ liệu thôi. Tiếp theo thì mình sẽ thử với

31:32 cả cái map. Cái map này tức là nó sẽ lấy ra toàn bộ những cái địa chỉ URL ở trên website trong một vài giây ha. Cái này nó cũng khá là tương đồng với cả cái craw ở cái chỗ là nó sẽ cần phải trả lại một cái danh sách những cái địa chỉ URL trên website. Cái craw thì nó không chỉ lấy cái danh sách URL đấy mà nó còn vào từng trang và nó cà dữ liệu thêm những cái trang đấy cơ. Bây giờ mình sẽ thử tiếp với cả phần map ha. Mình sẽ lấy địa chỉ URL của trang này rồi sau đó là mình bấm chạy ha. Ừ, cái này là cũng có option này. Ví dụ chúng ta chỉ muốn lấy những cái bài trên trang blog thì chúng ta có thể thêm vào đây. Rồi nó đã lấy được rồi. Đây. Và nó đã tìm ra 136 địa chỉ URL ở trên cái website này của mình. Thì đây là danh sách những cái địa chỉ URL mà nó tìm thấy. Ồ, nó lấy được

32:17 blog này, lấy sản phẩm này, ừ rồi những cái trang web khác. Ngoài ra là cũng có một số cái đường link dynamic. Đây là những cái địa chỉ URL mà nó lấy được. Thì thật ra là nếu mà chúng ta làm nhiều bước thì chúng ta có thể lấy địa chỉ trước rồi sau đó là chúng ta đưa cái địa chỉ này để chúng ta cào ấy. Đấy nhưng mà với cái map này thì chúng ta sẽ dùng khi mà chúng ta chỉ cần cái địa chỉ URL thôi. Đấy. Còn nếu mà chúng ta vừa muốn nó tự đi và nó tự cào luôn dữ liệu, nó tìm được trang nào nó tự cào thì chúng ta dùng cái call này. Thật ra là để làm cái phần này thì chúng ta cũng phải cần hiểu một cái khái niệm là về side map á. Ví dụ là trên cái website này của mình thì mình sẽ có một cái size map. Cái website này của mình là WordPress á. Thì khi mà mình cài những cái plugin SEO thì nó sẽ tự động tạo ra một cái size map. Size map là sao? S map là cái bản đồ của

33:03 cái size đấy là nó sẽ liệt kê ra toàn bộ những địa chỉ URL, những cái trang web ở trên cái website đấy. Ví dụ là có bốn cái dạng bài là dạng post này là những bài blog á, rồi dạng page là những trang page. Rồi những cái sản phẩm và cái danh mục sản phẩm. Bây giờ mình có thể vào nhanh để cho các bạn xem là nó có gì ở trong cái size map này ha. Ví dụ cái size ma của post thì đây là toàn bộ những cái bài blog post ở trên cái website này của mình. Địa chỉ URL, tất cả những cái bài blog này. Rồi với page thì đây là những cái trang ở trên cái website của mình about FPQ, contact home rồi term service đấ bla bla nó có 11 trang. Rồi sản phẩm thì hiện thời trên website là mình cũng có 13 sản phẩm thì đây là những cái sản phẩm trên website của mình và category thì đây là những cái category cho cái bài blog thì cũng đang có 10 dạng bài 10 category dành cho

33:51 những bài blog thì đây là cái size map thật ra là khi mà chúng ta có cái size map này chúng ta có thể lấy danh sách những cái địa chỉ URL này và chúng ta cung cấp cho cái công cụ tào dữ liệu của chúng ta để nó tự vào những trang này và nó cào thôi. Nhưng mà trong trường hợp mà chúng ta không có cái size map đấy thì chúng ta có thể sử dụng những cái công cụ như là file craw này với cái tính năng là map thì nó sẽ lấy ra những cái địa chỉ URL trên một cái website hay là craw. Tức là nó vừa phải lấy được cái địa chỉ URL nhưng mà nó còn đồng thời là nó cào dữ liệu luôn từ những cái địa chỉ đấy. Tức là hai trong một đấy. Rồi tiếp theo là cái search. Search này là gì? Là nó sẽ tìm kiếm ở trên web là nó sẽ lấy nội dung từ những cái kết quả trả về. Thì ở đây là có một cái ví dụ này là top restaurant in San Francisco là những cái nhà hàng top ở khu vực San Francisco. Đó

34:37 thì nó cũng có rất là nhiều những cái option này. Ở đây thì mình sẽ thử một cái khác đi. Ví dụ như là mình sẽ thử là Top Asian restaurant in Helsinki chạy ha. Xem là nó có cái nhà hàng Việt Nam nào nó trả lại ở đây không. Ờ đây là lấy rồi đây này. Ờ thì đây là kết quả tìm kiếm. Nó sẽ có một vài trang như thế này này. Nó sẽ lấy ra năm kết quả và đồng thời nó vào những trang này để nó lấy dữ liệu luôn cho mình. Thì đây là năm cái kết quả này từ trip advisor rồi Underlog, Word of Mus. Đấy thì đây là năm cái website là nó tìm kiếm với cái từ khóa này. Mình đoán là nó dùng kết quả của Google Search chẳng hạn. Đó thì lấy nó sẽ lấy ra top 5 rồi nó vào cái top 5 đấy vào từng trang để nó lấy cái dữ liệu trên cái trang đấy theo những cái định dạng mà chúng ta muốn. Nó có thể là Jon này, có thể là ma này rồi

35:22 link, sinot, html là những cái thứ mà chúng ta yêu cầu nó lấy. Thì đây là năm cái kết quả tìm kiếm và đồng thời thì nó cũng lấy dữ liệu luôn. Với cái tính năng này thì nó cũng sẽ enable, nó cũng sẽ cho chúng ta thêm khá là nhiều cái case á, thực hiện những cái case cần phải sử dụng ờ cái kết quả tìm kiếm. Rồi cuối cùng thì mình sẽ nói thêm về một cái tính năng của file craw cũng rất là thú vị là extract. Nó ở bên tay trái này này nó là một cái tính năng mới. Extract là trích xuất là nó sẽ trích xuất những cái dữ liệu theo dạng cấu trúc từ một trang single page hoặc là multipage là một trang đơn hoặc là nhiều trang hoặc là thậm chí là toàn bộ website. Đó thì bây giờ mình sẽ thử ở một cái playground này. Bây giờ là mình sẽ extract thông tin. Tức là mình sẽ trích xuất thông tin từ cái website của mình đi ha. Ví dụ đây là cái website của mình thì nó là một

36:07 webshop ha. Nó bán những cái sản phẩm kỹ thuật số. Thì bây giờ mình sẽ muốn nó lấy ra danh sách toàn bộ những cái sản phẩm ở trên website của mình. Có tên sản phẩm này, có giá này để xem nó có lấy được không ha. Thậm chí là mình có thể yêu cầu xem là nó có lấy được mô tả sản phẩm không. Ví dụ bây giờ mình vào một cái trang sản phẩm thì mình sẽ thấy là nó có khá là nhiều thông tin và cái phần về mô tả sản phẩm này thì nó cũng có và nó khá là nhiều này. Thì mình để xem xem là nó có tự động nó hiểu nó vào từng trang sản phẩm và nó lấy dữ liệu không ha. Giờ mình sẽ quay lại cái playground này và mình đưa cho nó một cái câu lệnh. Extract on the product names, product price, product description from this website. Rồi bây giờ mình sẽ thử chạy xem là nó có tự động nó hiểu được cái

36:52 yêu cầu của mình không ha. R parameters tức là nó sẽ search trên toàn bộ cái website này và nó sẽ lấy ra những cái danh sách các cái sản phẩm và trong mỗi một array này nó sẽ lấy ra tên này giá và mô tả sản phẩm đấy. Thì bây giờ mình sẽ thử chạy cái này xem là nó có hiểu cái yêu cầu và nó có trả lại kết quả như mình muốn không ha. Mình sẽ chạy đang chạy rồi đây. Có vẻ như là nó đã tìm ra những cái sản phẩm và cái mô tả sản phẩm luôn. nó tìm ra được những 25 sản phẩm và nó trả lại theo cái format này là có tên, có giá và có mô tả sản phẩm. Một số cái ở đây thì mình thấy là có vẻ là đúng rồi. Này đây là những cái sản phẩm nhưng mà tại sao lại là 25 sản phẩm nhỉ? Mình nhớ là mình chỉ có mười mấy sản phẩm thôi. Từ cái size map này nó chỉ có mười

37:38 mấy sản phẩm thôi. Có vẻ như là một số sản phẩm là nó bị lặp á các bạn. Tức là ở đây là nó bị lặp này. Đây cái file raw mà nó lấy được và sau đó là nó format được lại cho nó đẹp cho nó dễ nhìn. Nhưng mà 25 sản phẩm là chưa đúng rồi. Như ở đây chúng ta thấy là mình chỉ có 13 sản phẩm thôi. Và đây là đường link URL của những cái sản phẩm đấy. Mà ở đây nó lấy ra là gấp đôi rồi này. Thì có khá là nhiều sản phẩm nó bị lạp. Tức là nó cũng chưa hoạt động hoàn hảo lắm. Bây giờ mình sẽ thử lại là mình sẽ enable agency. Thì đây là một cái tính năng mới này. Thì mình sẽ thử bật cái này lên xem là kết quả nó có khả quan hơn không. Giờ mình sẽ chạy lại cái này ha với cái agent này xem là nó có tự đọc hiểu được không. Rồi đây nó cũng tự động nó vào trang web rồi nó cào đây nó lấy ra được

38:23 những cái địa chỉ URL này. Rồi lần này thì nó lấy ra được chín sản phẩm và nó cũng có format lại cho mình là đây là những cái sản phẩm mà nó lấy ra được. Có vẻ như là cũng đúng nhưng mà cũng chưa đủ. Ở đây nó chỉ lấy ra được chín sản phẩm thôi. Trong khi là mình có tổng là 13 sản phẩm. Và thêm một cái nữa là với cái lần chạy trước và cái lần chạy này thì cái phần mô tả sản phẩm thì có vẻ như nó tự động nó làm ngắn lại bởi vì nếu mà lấy toàn bộ cái phần mô tả sản phẩm thì nó sẽ rất là dài á. Thì có vẻ như là nó đã tự động nó tóm tắt lại cái phần mô tả sản phẩm đấy. Nó chỉ lấy ra thông tin tên, giá cả và phần mô tả tóm tắt về sản phẩm thôi. Đó. Mà anyway thì cái này cũng là một cái phần minh họa đấy để cho các bạn thấy là à có những cái công cụ như thế này nó có thể hiểu được cái cấu trúc của cái website nó tìm

39:10 ra những cái địa chỉ URL nó tự cào, tự trườn bò, tự lấy dữ liệu rồi sau đó là nó làm sạch dữ liệu và nó trả lại kết quả theo dạng có cấu trúc nhá. Có cấu trúc cho chúng ta. Tức là từ những cái này là chúng ta có thể chuyển đổi nó theo dạng ví dụ như là spreadsheet chẳng hạn. Tức là bây giờ thay vì là chúng ta phải vào đây chúng ta copy paste tất cả sản phẩm này rồi chúng ta vào từng trang tìm thông tin về giá cả về tên sản phẩm để rất là nhiều trường rồi chúng ta copy paste chủ công vào nó mất rất là nhiều thời gian thì bây giờ chúng ta có thể sử dụng những cái công cụ cào dữ liệu như là Fire Craw này thì nó sẽ trả lại một cái dữ liệu đã được làm sạch cho chúng ta theo cấu trúc mà chúng ta muốn. Tất nhiên là phần demo này thì nó vẫn chưa hoạt động hoàn hảo đó. Nhưng mà ở tính năng về demo thì mình thấy là nó rất là tiềm năng và có thể giúp chúng ta rất là

39:55 nhiều việc. Không có lấy được hết 100% thì cũng lấy được 70 80 90% thì cũng đã là đỡ được rất là nhiều việc rồi. Ok, như vậy là trong cái video này mình đã giới thiệu với các bạn file craw một cái công cụ chuyên về cào dữ liệu vừa mạnh mẽ vừa thân thiện với cả người dùng. Có rất là nhiều tính năng. Mình cũng đã giới thiệu những cái tính năng chính của fire craw như là swap này, craw này, map này, search này, extract này. Như mình nói thì cái fire craw này nó có rất là nhiều tính năng mạnh mẽ và nó làm cho cái việc mà một người chưa biết gì về cào dữ liệu có thể bắt đầu học và tìm hiểu rồi thực hành cào dữ liệu ở mức cơ bản. Rất là đơn giản, tức là nó khiến cho cái việc học những cái khái niệm khó hay là những cái công cụ mới một cách rất là đơn giản, đặc biệt là cho những cái bạn nă tex. Ở đây thì chắc là mình

40:41 cũng nói nhanh phần về giá cả đi. Tức là nó có một cái file craw này nó có cái free plan nha. Cái gói miễn phí này thì nó lại không rộng rãi lắm. Nó chỉ được 500 credit thôi. Có thể tưởng tượng là mỗi một cái trang web chúng ta muốn cào thì nó là một credit. Đó thì 500 credit này nó cũng không nhiều và nó là one time á chứ không phải là hàng tháng thì nó sẽ cho chúng ta thêm 500 credit. Và đây là toàn bộ là chúng ta chỉ có 500 credit này thôi. Cái mục đích là để chúng ta có thể thử nghiệm với cái công cụ này á có thể cào 500 website này rồi nó sẽ hỗ trợ hai cái browser đồng thời red limit thì nó cũng sẽ thấp là có thể cào trong 10 trang trong 1 phút hay là một cái craw trong 1 phút cái scrip với cả cái craw á là khác nhau á. Thì cái

41:26 gói free này nó cũng không được rộng rãi lắm á. Và thật ra là cái giá của cái file craw này thì nó cũng không có rẻ á. bù lại thì cái file craw này có cái phiên bản open source là mã nguồn mở, tức là bạn có thể cài nó để sử dụng miễn phí và cũng không cần thiết là phải sử dụng cái bản cloud phải trả tiền. Tuy nhiên thì cái bản open source mã nguồn mở thì nó lại có một số cái hạn chế. Ở đây thì mình có một cái hình của chính file craw này để giải thích là cái sự khác nhau giữa phiên bản mã nguồn mở và cái phiên bản cloud version. Thì chúng ta có thể lấy ở đây là cái phiên bản mã nguồn mở này nó sẽ có tính năng grap này, craw này, lm extract này, map này, lm romat và cái bộ sdc thì ở đây là trong phần open source. Nhưng mà cái

42:13 open source này nó sẽ không có những cái tính năng nâng cao mà thật ra rất là cần thiết khi mà chúng ta cần cào nhiều dữ liệu ở cái quy mô lớn á. những cái cơ chế về vượt qua những cái biện pháp chống boss. Đây là bypass boss protection á, tức là vượt capture hay là để mà tránh bị ben IP á, bị chặn IP thì cần cái cơ chế về proce rotation tức là xoay vòng procy này. Rồi những cái về dashboard để hiển thị thông tin, những cái về actions này cũng không có. Rồi browser hay là browser full scripting này là cũng không có luôn. Tức là những cái website mà cần phải sử dụng browser này thì cái bản open source nó không xử lý được. Rồi enterprise features dành cho doanh nghiệp, những tính năng dành cho doanh nghiệp thì nó cũng chỉ có ở

42:58 trong phiên bản cloud version. Đó thì chúng ta có thể thấy là mặc dù là Fire Craw này nó có cái phiên bản mã nguồn mở nhưng mà cái phiên bản mã nguồn mở này thì nó khá là giới hạn. nó lại không có những cái tính năng rất là quan trọng như là proceed này, rồi cái cơ chế để vượt qua post này. Đó thì đây đều là những cái tính năng rất là cần thiết nếu mà chúng ta cào dữ liệu ở quy mô lớn. Còn nếu mà cái nhu cầu của chúng ta nhỏ, chúng ta chỉ cào những cái website mà nó cũng đơn giản, phổ biến và nó không chặt những cái cơ chế để chống cào dữ liệu thì chúng ta có thể sử dụng phiên bản open source. Anyway thì ý của mình là cái phiên bản này nó sẽ rất là hạn chế. Chính vì thế mà trong cái video về giới thiệu toàn cảnh web shipping với AI ở trong năm 2025 thì mình đã liệt kê rất

43:45 là nhiều cái công cụ cho cái mục đích cào dữ liệu trên web rồi. Firecraw này thì nó chỉ là một cái công cụ trong rất là nhiều công cụ thôi. Trong cái video này thì mình chọn Fire Craw để mình giới thiệu với cả mọi người vì như mình nói là cái công cụ rất là dễ sử dụng. Tức là nó có nhiều tính năng và quan trọng tính năng nào thì nó cũng dễ sử dụng. Thì mình thấy là mình chọn cái này để mình demo cho các bạn trước đã để các bạn hiểu được là à một cái công cụ cao dữ liệu thì nó sẽ như thế nào và những cái tính năng như kiểu swap craw này thì nó hoạt động như thế nào á. Tức là trước hết là mình hiểu được concept á cái cách thức của nó hoạt động. Rồi sau đó nếu mà chúng ta muốn tiết kiệm thì chúng ta có thể tham khảo thêm những cái công cụ khác. Đó ví dụ như là trong cái video trước mình cũng đã giới thiệu một cái công cụ cào dữ liệu rất là mạnh mẽ là Craw for AI á. Đấy thì có thể là trong

44:31 một video khác thì mình sẽ đi sâu vào cái craw fori. Thì thu thập dữ liệu nó là cái bước đầu tiên đúng không? Trước khi mà chúng ta xây dựng những cái hệ thống AI, những cái contract B AI thông minh, mạnh mẽ có thể sử dụng những cái cơ sở tri thức mà chúng ta cung cấp cho nó để trả lại cái câu hỏi phù hợp tốt nhất dành cho người dùng thì chúng ta phải có cơ sở dữ liệu đã đúng không? Thì cái file này nó là một cái công cụ để giúp chúng ta một cái bước rất là sơ khai cơ bản là thu thập dữ liệu từ trên website. Nó sẽ có những cái US cụ thể và cái hạn chế của nó là sẽ có những cái website mà file core này nó không được tối ưu để cào dữ liệu và đặc biệt là những cái trang social media ví dụ như là Facebook hay là LinkedIn, Instagram gì đấy cái file CRA này sẽ không xử lý được. Không biết là trong tương lai thì nó có xử lý được không nhưng mà hiện thời thì không xử lý được. Và thật ra là

45:19 cái bài toán cào dữ liệu ở trên các cái trang mạng xã hội nó là một cái bài toán rất là khó các bạn. Các bạn cứ thử nghĩ mà xem những cái trang mạng xã hội thì nó sẽ yêu cầu chúng ta phải đăng nhập vào đúng không? Tức là bạn phải đăng nhập vào thì bạn mới nhìn thấy nội dung. Mà cái nội dung đấy thì nó cũng được cá nhân hóa cho từng người á. Tức là nó không phải là nó có một cái nội dung như nhau và tất cả mọi người thì sẽ đều nhìn thấy những cái thông tin như nhau. Những cái nội dung này thì nó được cá nhân hóa cho bạn và nó sẽ chỉ load khi mà bạn đăng nhập vào á, bạn thực hiện một số hành động bạn SL, mạng quận thì nó sẽ hiện ra những cái nội dung được render. Lúc đấy nó mới render nội dung. Rồi những cái mạng xã hội thì nó có những cái cơ chế bảo mật rồi chống boss nó rất là nghiêm ngạp. Khi mà bạn dùng nhiều IP để đăng nhập vào tài khoản là ngay lập tức là tài khoản của bạn là đã bị chặn

46:05 rồi, thậm chí là bị bàn, bị khóa vĩnh viễn luôn. Đó, tức là mạng xã hội thì nó là một trường hợp mà cào dữ liệu có thể nói là ở mức độ gần như là khó nhất. Cái bài toán khó hơn thì có thể thì chắc sẽ là những cái trang web mà nó cũng yêu cầu bạn phải cào dữ liệu vào. Rồi nó cũng có dynamic content, JavaScript render rồi nó lại còn làm nghiêm làm chặt hơn. những cái trang web đấy nó lại cũng không phổ biến như mạng xã hội á như là Facebook, LinkedIn có thể đấy là những cái bài toán nó là khó nhất luôn. Những bài toán mà kiểu nó unic rồi nó phải tùy biến rất là nhiều. Với những cái bài toán khó như vậy là Fire Craw nó cũng chưa xử lý được ha các bạn. Tuy nhiên thì mình nghĩ là với rất là nhiều những cái USC cần lấy dữ liệu ở trên internet, ở trên website của Business thì cái file CRW này nó có thể làm rất

46:50 là tốt. Thì đây là một cái phần nội dung ở trong cái khóa học sắp tới của mình về xây dựng RAC chatbot cho doanh nghiệp. Nếu bạn là chủ doanh nghiệp hay là bạn cũng có một startup có nhu cầu xây dựng một cái con chatpot thông minh, sử dụng cái cơ sở tri thức, cơ sở dữ liệu của bạn để trả lời câu hỏi thì bạn hãy tham khảo cái khóa học này của mình nhé. Link đến khóa học mình sẽ để ở trong phần mô tả video ở phía dưới. Rồi video này cũng tương đối dài nên là mình sẽ kết thúc ở đây ha. Nếu bạn vẫn còn ở đây xem đến lúc này thì mình cảm ơn bạn rất là nhiều. Hẹn gặp lại các bạn trong video tiếp theo ha. Bye bye.

Share

YouTube Video Summaries