跳到主要內容

[野人獻曝] 使用YQL取得網頁某區塊的元素內容

Yahoo! Query Language(YQL)正如其名,
她是Yahoo的一個查詢語言,
你可能會覺得她跟SQL很像,
事實上她確實就是用SQL的語句結構來做查詢。

至於YQL的可以查詢的項目有什麼呢?
除了Yahoo!自家的flickr公開相片等,
她也可以查詢rss、html元素、json或xml資料等,
所以她的功能是很強大的,
如果運用得宜的話,其實可以減少我們做壞事的很多時間。

話回到主題,
這次是要示範利用YQL找出網頁某元素,
因此我就以Pixiv的圖片頁作個範例吧。

一般來說,在未登入時,
連到Pixiv圖片頁時,
會顯示中尺寸的圖片並要求登入。

對操作電腦的人類而言,
我們可以對著那張圖片按下右鍵並選擇「內容」(或「圖片資訊」)之類的字眼得知圖片網址。
但是對於非人類的程式呢?
那你可能要讓程式去把資料抓回來,
然後使用正規式去抓出那張圖片的網址,
但這種事對於人類而言是很麻煩的。
(雖然我自己可以勉強說懂一點點正規式,但是我還是不會寫這種玩意。)

使用YQL可以讓我們很方便且簡單的取得這些資訊,
我們只要讓程式呼叫她的API,
就可以省下很多功夫。

那麼就開啟YQL的測試台來開始體驗吧。

在連線完成時,
你會看到輸入框中的文字是show tables
這就是YQL的語句,
跟SQL幾無二致。
這句語句的意義就是「顯示所有可使用的table」,
而這裡所指的table就是網路上的各種資源。
等到未來你更瞭解YQL就會懂的(茶)

接下來,請在文字輸入框輸入以下這串YQL語法吧,
這是為了要試試YQL的強大唷^.<


select * from html where url="http://www.pixiv.net/member_illust.php?mode=medium&illust_id=18001902" and
xpath='//div[@class="front-centered"]/a'

此句語句若是翻成中文的就是代表:

在html資料表中查詢網址是「http://www.pixiv.net/member_illust.php?mode=medium&illust_id=18001902」
且xpath是「//div[@class="front-centered"]/a」

或許你會不懂xpath指的是什麼玩意,
不過目前我也無法說明太多,
所以需要請你自己找找關於xpath的文章來看了。

當你按下「TEST」按鍵後,
下方會顯示一串像是這樣的XML:





true

844
842
12146



東日本大震災チャリティ同人誌の表紙どんぼ側/こげどんぼ*



很簡單吧,光是這樣就找到那個圖片的資訊了,
只要讓程式解析回傳的XML就可以得知圖片的位址了。
如果要讓她可以在你的程式運作的話,
你可以利用像是PHP的curl物件、還是.NET的httpclient去實做,
只要把輸出結果下的「The REST Query」中的文字內容稍做一些變化就可以了。

留言

這個網誌中的熱門文章

[野人獻曝] 如何實作一個簡單的短網址服務站(前言)

善意提醒: 本系列文隨時有腰斬的可能,若您需要根據本系列文進行實作的話, 請先作好可能會無法繼續下去的心理準備。 ==正文開始== 事前準備項目 一台可以跑 Apache 、 MySQL 、 PHP 的主機 一個看起來還蠻酷的網址 一個不會讓你想砸了它的文字編輯器 一個夠清晰的腦袋 關於第一個和第二個項目, 可以考慮去租一般的虛擬主機, 通常可以一次解決! 第三個項目的話,我個人推薦 Notepad++ 啦, 當然你若有更好的選擇,也可以直接使用! 至於第四個項目,就請施主自求多福了! 第一步 當然先從創造資料庫開始囉(不然你怎麼放那些原始網址資料?), 請打開你的 phpmyadmin , 然後將 這段指令 交給phpmyadmin執行。 注意:如果你是用虛擬主機的話,請不要直接執行那段指令,否則會有出錯的問題。 請先在你的網站控制臺直接創造一個資料庫,再把上述SQL指令中的 CREATE...... 複製下來交給phpmyadmin執行。 如果順利執行這段SQL指令的話,那麼就請你打開你常用的文字編輯器,輸入以下內容: RewriteEngine On RewriteCond %{REQUEST_FILENAME} !-d RewriteCond %{REQUEST_FILENAME} !-f RewriteRule ^(.*)$ redirect.php?q=$1 [L,QSA] ( 原始內容 ) (......本文待續......)

[野人獻曝] 串接 OpenAI 的 Assistant

你就直接把 Assistant 當成你在 ChatGPT 看到的那些 GPT 玩具吧(?), 只是你可以透過 Assistant API 透過程式化來建立你的 GPT 並與你的網站功能結合。 雖然前面說了「用 Assistant API 」,但實際上其實需要以下三個類型的 API 相互結合才能生出一個 Assistant: Assistants API :設定給助手(?)的指示內容、要使用的模型等資訊。在絕大部分場合下,你通常只需要呼叫一次 Assistant 的 Create 方法一次,此後就可以把回傳的 id 記錄下來後用在其他地方。 Threads API : 建立對話串,這個對話串會與前述的 Assistant 相互結合,讓 Assistant 知道要在這個 Thread 開始監聽訊息,並針對指示做出相應的回覆。 Messages API :將使用者輸入的訊息送到 Thread Runs API :使用者送出訊息後,就要呼叫 Create Run ,讓後端知道有工作要做了 以下是其流程: 先呼叫 Assistant API 的 Create ,記得要拿到回傳中最重要的 id ,這會在接下來的步驟中使用到。如果沒什麼特殊狀況的話你可以把這個 id 持久化保存,之後就不用再重做一次這個步驟。 接著 建立一個新的 Thread ,並取回其中回傳的 id。這個步驟你可能會因應不同的使用的而需要頻繁產生。 以上兩個步驟完成後,接著就可以: 建立一條新的 Message ,並將使用者輸入的內容發送至剛才建立的 Thread 中(透過之前建立 Thread 成功所得到的 id) 接著 呼叫 Run API 的 Create ,將建立 Assistant 與 Thread 成功時所取得的 id 帶入後,就會開始根據使用者輸入的內容開始做分析處理。若是忘記呼叫這個 API 你會發現怎麼內容輸入了但卻沒有任何回應。 然後就可以定期去 呼叫取得 Run 資訊的 API ,看看是不是已經處理完畢。只有在 status 是 completed 時,才代表執行完畢。 執行完畢後,就可以 透過 Message API 取得訊息 。 看吧,很簡單吧? ㄍㄋㄋ,官網沒寫詳細用法只有提供 endpoint 資訊。害我先按照自己的想法寫出一個雛形發覺怎麼跑不起來一邊確認一邊問 ChatGPT...

[野人獻曝]Google Account Authentication實作(上)

Google Account Authentication的實作,可以用GET或POST模式去做出來。其主要的差異性只在於: 使用GET模式時,需要經過帳號持有者登入Google並授權後,才能存取帳號資源。 使用POST模式時,只要由我方將帳號、密碼傳送至Google登入即可。 普遍而言,第一種登入方式較適合一般的Web Application,也是讓使用者不用擔心帳號密碼外洩給不相關第三者的最佳方案。 而後者僅建議在單機應用程式或是自用的應用程式上執行。 關於Google Account Authentication,請參閱 Google的說明 。 使用GET模式取得授權 要使用這種授權方式,僅需要以GET方式將下列參數傳送至: https://www.google.com/accounts/AuthSubRequest。 next(必備參數) 授權成功要redirect的網址。若授權成功時,即會將授權token富於該指定網址後。 如:http://www.mydomain.com/app.php?token=...... scope(必備參數) 要存取的資源網址。 如:http://www.blogger.com/feeds/posts.... session(選用參數) 決定token是否要加密。如果應用程式已經註冊的話,可以選用1作為此參數之值,以便傳送加密的token。 secure(選用參數) 以下是一個請求授權的示例: GET https://www.google.com/accounts/AuthSubRequest?next=http%3A%2F%2Fwww.yourwebapp.com%2Fshowcalendar.html&scope=http%3A%2F%2Fwww.google.com%2Fcalendar%2Ffeeds%2F&session=0&secure=0 若授權成功後,則會將頁面redirect至: GET http://www.yourwebapp.com/showcalendar.html?token=CKF50YzIHxCT85KMAg 接著可以把這個token值存入變數之中,以供使用。 剛才的動作已經取得token(姑且稱為金鑰吧),接下來的只要把這個token以 Authorizati...