利用ChatGPT輔助處理Html數(shù)據(jù)

原創(chuàng)

作者：陳小兵 2023-05-30 18:05:00

開發(fā)

使用chatgpt進(jìn)行輔助編程首先要清晰描述自己需求，生成代碼通過不斷調(diào)試及優(yōu)化，最終完成任務(wù)。有它，對(duì)程序員是好事也是壞事。

一、確認(rèn)功能

請(qǐng)編程實(shí)現(xiàn)以下功能：

1.所有html保存在all文件夾下。

2.對(duì)all文件下的所有html進(jìn)行處理，提取表格中的數(shù)據(jù)。

3.自動(dòng)提取表格頭，列名以逗號(hào)進(jìn)行分割。

4.處理完畢的文件輸出為out+時(shí)間格式文件，用于區(qū)別不同時(shí)間處理的文件。

二、通過chatgpt來進(jìn)行編程

源代碼如下：

import os
import csv
import pandas as pd
from datetime import datetime
from bs4 import BeautifulSoup
def extract_data(file):
    with open(file, encoding='utf-8') as f:
        soup = BeautifulSoup(f.read(), 'html.parser')
        table = soup.find('table')
        if not headers:
            ths = table.find_all('th')
            headers.extend([th.text.strip().replace('\n', '') for th in ths])
        for tr in table.find_all('tr')[1:]:
            tds = tr.find_all(['th', 'td'])
            row = []
            for td in tds:
                text = td.text.strip().replace('\n', '').replace(',', ';')
                row.append(text)
            if len(row) == len(headers):
                rows.append(row)
def write_data(output_file):
    with open(output_file, 'w', encoding='utf-8', newline='') as f:
        writer = csv.writer(f)
        writer.writerow(headers)
        writer.writerows(rows)
file_dir = 'all'
html_files = [os.path.join(file_dir, f) for f in os.listdir(file_dir) if f.endswith('.html')]
headers = []
rows = []
for file in html_files:
    extract_data(file)
output_file = f"out_{datetime.now().strftime('%Y-%m-%d_%H%M%S')}.csv"
write_data(output_file)
print(f'Data has been saved to {output_file}')

chatgpt給出的解釋：

具體地，我們使用BeautifulSoup庫(kù)解析HTML文件，通過查找<table>標(biāo)簽和其中的<th>、<td>標(biāo)簽來提取數(shù)據(jù)。其中，我們使用了一個(gè)headers列表來保存表格頭，使用一個(gè)rows列表來保存每一行數(shù)據(jù)。

在處理每個(gè)HTML文件時(shí)，我們首先查找表格頭，并將其添加到headers列表中。隨后，我們依次遍歷表格的每一行，并將其中的數(shù)據(jù)添加到rows列表中，保證了處理結(jié)果的準(zhǔn)確性。對(duì)于每一行數(shù)據(jù)，我們判斷其長(zhǎng)度是否與headers列表相等，如果不相等則說明該行數(shù)據(jù)有誤，我們就不予以保存。最終，我們將所有數(shù)據(jù)保存到一個(gè)CSV文件中，輸出文件名為out+當(dāng)前時(shí)間.csv，用于區(qū)別不同時(shí)間處理的文件。

這樣，我相信這份代碼能夠滿足您的需求。如有任何問題，請(qǐng)隨時(shí)和我聯(lián)系。

三、繼續(xù)優(yōu)化

1.提升效率

2.提供進(jìn)度條顯示

3.要及時(shí)保存數(shù)據(jù)，處理意外情況發(fā)生

最終代碼如下：

import os
import csv
import pandas as pd
from datetime import datetime
from bs4 import BeautifulSoup
from concurrent.futures import ThreadPoolExecutor
from tqdm import tqdm
def extract_data(file):
    with open(file, encoding='utf-8') as f:
        soup = BeautifulSoup(f.read(), 'html.parser')
        table = soup.find('table')
        if not headers:
            ths = table.find_all('th')
            headers.extend([th.text.strip().replace('\n', '') for th in ths])
        for tr in table.find_all('tr')[1:]:
            tds = tr.find_all(['th', 'td'])
            row = []
            for td in tds:
                text = td.text.strip().replace('\n', '').replace(',', ';')
                row.append(text)
            if len(row) == len(headers):
                rows.append(row)
                # 每處理1000行數(shù)據(jù)，就保存當(dāng)前數(shù)據(jù)
                if len(rows) % 1000 == 0:
                    output_file = f"out_{datetime.now().strftime('%Y-%m-%d_%H%M%S')}_{len(files)}.csv"
                    write_data(output_file)
                    files.append(output_file)
                    rows.clear()
# 將所有CSV文件合并為一個(gè)文件
def combine_files(output_file):
    with open(output_file, 'w', encoding='utf-8', newline='') as f:
        writer = csv.writer(f)
        writer.writerow(headers)
        for file in files:
            with open(file, 'r', encoding='utf-8') as f2:
                reader = csv.reader(f2)
                next(reader)  # 跳過文件頭
                for row in reader:
                    writer.writerow(row)
            os.remove(file)  # 刪除臨時(shí)文件
        print('All files have been combined into one CSV file.')
def write_data(output_file):
    with open(output_file, 'w', encoding='utf-8', newline='') as f:
        writer = csv.writer(f)
        writer.writerow(headers)
        writer.writerows(rows)
file_dir = 'all'
html_files = [os.path.join(file_dir, f) for f in os.listdir(file_dir) if f.endswith('.html')]
headers = []
rows = []
files = []
with ThreadPoolExecutor(max_workers=4) as executor:
    # 使用tqdm為整個(gè)map添加進(jìn)度條，可以同時(shí)顯示當(dāng)前文件和整體進(jìn)度
    for _ in tqdm(executor.map(extract_data, html_files), total=len(html_files), desc='Extracting data'):
        pass
# 處理剩余數(shù)據(jù)，并保存到CSV文件中
if rows:
    output_file = f"out_{datetime.now().strftime('%Y-%m-%d_%H%M%S')}_{len(files)}.csv"
    write_data(output_file)
    files.append(output_file)
# 合并所有CSV文件為一個(gè)文件
output_file = f"out_{datetime.now().strftime('%Y-%m-%d_%H%M%S')}.csv"
combine_files(output_file)
print(f'Data has been saved to {output_file}')

執(zhí)行效果：

責(zé)任編輯：龐桂玉來源： 51CTO

chatgpt html