Python：迭代CSV的每一行，计算每一行中的令牌，创建一个新的CSV，其中包含原始CSV每行的令牌数

Question

）

我有一个CSV文件，如下所示：

Blockquote

• 身份证内容
• 文本1这里有一些文本
• 她也来了一些短信
• 文本3等等。。。在

Blockquote

我想写一个代码来迭代这个CSV表的每一行。 然后计算每行中的标记数（例如每一个文本） 然后生成一个新的CSV表作为输出，其中应该只有文本ID和文本中的标记数。在

Blockquote

输出CSV文件应如下所示：

• ID数字令牌
• 文本18
• 文本2 12
• 文本3 15

Blockquote

到目前为止，我有这个代码：

import csv
from textblob_de import TextBlobDE as TextBlob

data = open('myInputFile.csv', encoding="utf-8").readlines()

blob = TextBlob(str(data))


csv_file = open('myOutputFile.csv', 'w', encoding="utf-8")
csv_writer = csv.writer(csv_file)
# Define the Headers of the CSV
csv_writer.writerow(['Text-ID', 'Tokens])


def numOfWordTokens(document):

    myList = []

    for eachRow in document:
        myList.append(eachRow)
        return "\n".join(myList)

        #return eachRow
        #print(eachRow)

        # Count Tokens
        #countTokens = len(wordTokens2.split()) # Output: integer
        #return countTokens
        #myList.append(str(countTokens))


wordTokens = numOfWordTokens(data)

# Write Content in the CSV-Table Rows
csv_writer.writerow([wordTokens])
csv_file.close()

那么，首先我有以下问题？在

当我每次都返回时，Shell中没有输出，只有1。行作为新创建的CSV文件中的输出。 当我打印（eachRow）时，实际上每一行都打印为Shell中的输出，但是我新创建的CSV文件是空的！在

所以这是我遇到问题的第一个部分，所以我不能继续去计算每一行中的标记数并将标记数写入新的CSV文件中。在

Answer 1

使用pandas非常简单，但是如果您不想使用其他模块，也可以：） 我为pandas和手动迭代数据添加了代码：

import pandas as pd
import csv


def main_pandas(path_to_csv: str, target_path: str):
    df = pd.read_csv(path_to_csv, encoding='utf-8')
    df['tokens'] = df['Content'].apply(lambda x: len(x.split()))
    sub_df = df[['ID', 'tokens']]
    sub_df.to_csv(target_path, index=False)


def main_manual(path_to_csv: str, target_path: str):
    with open(path_to_csv, 'r') as r_fp:
        csv_reader = csv.reader(r_fp)
        next(csv_reader)  # Skip headers
        with open(target_path, 'w') as w_fp:
            csv_writer = csv.writer(w_fp)
            csv_writer.writerow(['Text ID', 'tokens'])  # Write headers
            for line in csv_reader:
                text_id, text_content = line
                csv_writer.writerow([text_id, len(text_content.split())])


if __name__ == '__main__':
    main_manual('text.csv', 'tokens.csv')