Help us understand the problem. What is going on with this article?

R でハッシュテーブルの速度比較 #rstatsj

More than 3 years have passed since last update.

100 万個くらいのラベルとそのラベルに対応する値があって、その中から 100 個くらいのラベルに対して、対応する値を取得したい。

説明のために適当にデータを生成してみる。

R
generate_random_labels <- function(num, length = 10) {
  apply(Vectorize(sample, "size")(letters, rep(num, length), replace = TRUE), 1, function(row) paste(row, collapse = ""))
}
generate_random_values <- function(labels, digits = 1) {
  format <- paste0("%s%0", digits, "d")
  sprintf(format, labels, Vectorize(sample, "size")(seq_len(10^digits-1), rep(1,length(labels))))
}

N <- 1000
labels <- generate_random_labels(N)
values <- generate_random_values(labels)
df <- data.frame(labels, values, stringsAsFactors = FALSE)
head(df)
結果
      labels      values
1 itfftodouk itfftodouk7
2 oalbnlpxnj oalbnlpxnj6
3 idtnwbwoss idtnwbwoss8
4 fgqqbnyzmv fgqqbnyzmv7
5 ioyqgcrbto ioyqgcrbto6
6 ypkcdfbjvr ypkcdfbjvr1

1000 個のラベルと値のペアを作成した。

この中から適当に 5 個のラベルを抽出する。

R
target <- sample(labels, 5)
target
結果
[1] "lqogquxoql" "zeipgvkjvu" "snnqnsjeuw" "povvjfdaow" "kztoedvhju"

このラベルに対応した値を取得したいというのが今回の目的だ。

こういう場合はハッシュテーブルを使うと便利なのだが R言語にはハッシュテーブルが無い。
最初に思いつくのはデータフレームを使ったこんなやり方だ。

R
df[df$labels %in% target, ]$values
結果
[1] "povvjfdaow8" "snnqnsjeuw4" "kztoedvhju1" "lqogquxoql9" "zeipgvkjvu7"

今回は結果の順序はどうでもいいので一応これで OK だ。

だが、実際に適用してみると非常に遅い。
この動作は、何千回、何万回と繰り返すため、できるだけ速い方法を探したい。

今回は R でハッシュテーブルぽいものを使う方法をいろいろと考えて、速度比較してみた。

1. 名前付きベクトル

R でハッシュテーブルを実現する一つのやり方は名前付きベクトルを使うことである。

R
named_values <- values
names(named_values) <-  labels
named_values[target]
結果
   lqogquxoql    zeipgvkjvu    snnqnsjeuw    povvjfdaow    kztoedvhju 
"lqogquxoql9" "zeipgvkjvu7" "snnqnsjeuw4" "povvjfdaow8" "kztoedvhju1" 

非常にお手軽にできてわかりやすい。

2. 名前付きリスト

同様に、名前付きリストもハッシュテーブルとして使える。

R
named_values_list <- as.list(values)
names(named_values_list) <-  labels
unlist(named_values_list[target])
結果
   lqogquxoql    zeipgvkjvu    snnqnsjeuw    povvjfdaow    kztoedvhju 
"lqogquxoql9" "zeipgvkjvu7" "snnqnsjeuw4" "povvjfdaow8" "kztoedvhju1" 

3. 環境

『R言語徹底解説』第8章(p.160)には、R における環境(environment)の特別な使用方法としてハッシュマップとして使えると書いてある。
実際に書いてみるとこんなコードになった。

R
my_env <- new.env(parent = emptyenv())
invisible(Vectorize(assign, c("x", "value"))(labels, values, envir = my_env))
unlist(mget(target, envir = my_env))
結果
   lqogquxoql    zeipgvkjvu    snnqnsjeuw    povvjfdaow    kztoedvhju 
"lqogquxoql9" "zeipgvkjvu7" "snnqnsjeuw4" "povvjfdaow8" "kztoedvhju1" 

コードは複雑になるがハッシュテーブルを実現できている。

4. hash パッケージ

『R言語徹底解説』第8章(p.160)では、環境をハッシュテーブルとして使うのに便利な hash パッケージについても言及がある。

R
library(hash)
h <- hash(labels, values)
values(h[target])
結果
   kztoedvhju    lqogquxoql    povvjfdaow    snnqnsjeuw    zeipgvkjvu 
"kztoedvhju1" "lqogquxoql9" "povvjfdaow8" "snnqnsjeuw4" "zeipgvkjvu7" 

非常に手軽である。順序が保持されないことには注意が必要である。

5. データベース(SQLite)

データベースでもハッシュテーブルと同じことができる。
一見オーバーヘッドが大きそうだが、データサイズが大きい場合は結局データベースを使った方が速くなるということもある。

dplyr パッケージと RSQLite パッケージを使えばかなり手軽に SQLite を使うことができるので軽く紹介したい。

R
# install.packages("RSQLite")
library(dplyr)
temp_tbl <- dplyr:::temp_load(temp_srcs("sqlite"), list(df=df))$sqlite$df
temp_tbl %>% filter(labels %in% target) %>% select(values) %>% collect %>% {.$values}
結果
[1] "povvjfdaow8" "snnqnsjeuw4" "kztoedvhju1" "lqogquxoql9" "zeipgvkjvu7"

これも順序は保存されない。

速度比較

上で紹介した 6 つの方法について速度を比較してみる。
テーブルサイズ N を 100~1000000 まで変化させて速度を調べている。

R
library(magicfor)

magic_for()

for(N in 10^(2:6)) {
  # Create Data -------------------------------------------------------------
  labels <- generate_random_labels(N)
  values <- generate_random_values(labels)
  df <- data.frame(labels, values, stringsAsFactors = FALSE)

  target <- sample(labels, 100)

  # Preparation -------------------------------------------------------------
  named_values <- values
  names(named_values) <-  labels

  named_values_list <- as.list(values)
  names(named_values_list) <-  labels

  my_env <- new.env(parent = emptyenv())
  invisible(Vectorize(assign, c("x", "value"))(labels, values, envir = my_env))

  library(hash)
  h <- hash(labels, values)

  library(dplyr)
  # install.packages("RSQLite")
  temp_tbl <- dplyr:::temp_load(temp_srcs("sqlite"), list(df=df))$sqlite$df

  # Benchmark ---------------------------------------------------------------
  library(microbenchmark)
  mb_result <- microbenchmark(
    data_frame = {
      df[df$labels %in% target, ]$values
    }, 
    named_vector = {
      named_values[target]
    }, 
    named_list ={
      unlist(named_values_list[target])
    },
    environment = {
      unlist(mget(target, envir = my_env))
    }, 
    hash = {
      values(h[target])
    },
    sqlite = {
      temp_tbl %>% filter(labels %in% target) %>% select(values) %>% collect %>% {.$values}
    }
  )

  time_df <- data.frame(N=as.character(N), mb_result)
  print(time_df)
}

result <- Reduce(rbind, magic_result()$time_df)
R
library(ggplot2)
ggplot(result, aes(x=N, y=time, fill=expr)) + 
  geom_boxplot() + scale_y_log10() + facet_wrap(~expr)

hashtable1.png

R
result_mean <- result %>% group_by(N, expr) %>% summarise(mean=mean(time))
ggplot(result_mean, aes(x=N, y=mean, group=expr, color=expr)) + 
  geom_line() + scale_y_log10()

hashtable2.png

テーブルサイズ N が 1000 ぐらいまでは名前付きベクトルが速いが、10000以上になると環境を使った方法が速いようである。
私の今回の用途だと環境を直接用いて実装した方が速くなりそうだ。
hash は便利だが、汎用向けなのか実装がまずいのか、オーバーヘッドが大きいようだ。

Enjoy!

hoxo_m
ホクソエム (hoxo_m) は架空のデータ分析者であり、日本の若手のデータ分析者集団のペンネームである。当初このデータ分析者集団は秘密結社として活動し、ホクソエムを一個人として活動させ続けた。
https://blog.hoxo-m.com/
hoxom
Machine Learning and Data Analysis Company for Your Smiles :)
http://hoxo-m.com/
Why not register and get more from Qiita?
  1. We will deliver articles that match you
    By following users and tags, you can catch up information on technical fields that you are interested in as a whole
  2. you can read useful information later efficiently
    By "stocking" the articles you like, you can search right away