6
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 5 years have passed since last update.

改行の除去で地味にハマった件

Last updated at Posted at 2017-12-08

由来の分からない有象無象のテキスト数千件から改行を取り除くというタスクがありまして。目的は、まあよくあるtsvファイル化です。tsvなのでとりあえずデータ区切りとかち合う改行とタブを除けば良いわけです。

ひとまず元データを1件ずつ読み込むことはできたんですが、なにせいろんな人がいろんな環境で自由入力したテキストなんで改行やらタブやらが含まれるんですね。

で、最初改行(とタブと空白)の除去をこうやろうとしたんです。

let nonewline = String(text.characters.filter { !" \n\t\r".characters.contains($0) })

でも、これだとどうも除去できない改行があるんですね。¥nでも¥rでもマッチしない改行って何!?
ひとまずよくわからないので、OSの認識に任せてみようと思って、こうしてみました。

let nonewline = text.components(separatedBy: .whitespacesAndNewlines).joined(separator: " ")

componentsに分解してjoinするっていうのは回りくどいようですが、CharacterSetを使う場合はこれが楽だったのでこうしました。

それはさておき、これはうまくいきました。ということは、¥nと¥r以外の改行があるってことなんでしょうか・・・と思って、定義を見てみたらこういうコメントが入ってました。

    /// Returns a character set containing the newline characters (`U+000A ~ U+000D`, `U+0085`, `U+2028`, and `U+2029`).
    public static var newlines: CharacterSet { get }

なにこれけっこういっぱいある!! U+000A〜U+000Dで4個、そのほかにさらに3個で計7個!

謎だったのでググってみたらこういうことのようです。
入力改行コード指定

ということで、改行コードは意外に種類があるので、扱うときはなるべく CharacterSet.newlines を使いましょうというお話でした。

6
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
6
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?