我正在尝试将字符串列表标记为单词列表。 例如:
a=['NEWS FLASH: popcorn-flavored Tic-Tacs', 'The way']
我希望输出为:
a=['NEWS', 'FLASH:', 'popcorn-flavored', 'Tic-Tacs', 'The', 'way']
我尝试了此代码
from nltk.tokenize import word_tokenize
tokenized = [word_tokenize(i) for i in a]
但它为每个句子返回一个列表
[['NEWS', 'FLASH', ':', 'popcorn-flavored', 'Tic-Tacs'], ['The', 'way']]