I found that nltk.word_tokenize() failed to divide contraction words like "he's", "book's" when followed by [\t\n\f\r]. The examples below explain the issue. "he's" in sentence_2 is not split because ...
一部の結果でアクセス不可の可能性があるため、非表示になっています。
アクセス不可の結果を表示する