はじめに

未定義動作って怖いですね。未定義動作を入れると何が起きるかわからないことから、「鼻から悪魔」とかよく言われます。以前も踏んだことがあるのですが、今回また未定義動作を踏んでそうとう時間を溶かしたので、僕みたいな犠牲者が出ないようにここにメモしておきます。

環境:

macOS Mojave 10.14.3
g++ (Homebrew GCC 8.2.0) 8.2.0

現象1

以下のコードをMacのg++でコンパイル、実行するとSIGILLで死ぬ。

test1.cpp

int hoge() {
}

int main() {
  hoge();
}

$ g++ -O1 test1.cpp  
test1.cpp:2:1: warning: no return statement in function returning non-void [-Wreturn-type]
 }
 ^

$ ./a.out
zsh: illegal hardware instruction  ./a.out

なぜ？

返り値を返すと宣言した関数で返り値を返さないのは未定義動作であり、
かつMacのGCCでは、デフォルトでubsan(Undefined Behavior Sanitizer)が有効になっており
ubsanが有効な状態では未定義動作を検出してud2という命令を出力するから。

実際、関数funcのアセンブリにud2が出ている。

  .globl __Z4hogev
__Z4hogev:
LFB0:
  ud2

ud2まで処理が進んだらSIGILLで死ぬ。

現象2

以下のコードをコンパイル、実行すると無限ループになってスタックを使い切って死ぬ。

test2.cpp

#include <iostream>

int foo() {
  std::cout << "foo" << std::endl;
}

void bar() {
  std::cout << "bar" << std::endl;
  foo();
}

int main() {
  foo();
}

ここで、関数barはどこからも呼ばれていないことに注意。

$ g++ -O1 test2.cpp                                                                              test2.cpp: In function 'int foo(int)':
test2.cpp:5:1: warning: no return statement in function returning non-void [-Wreturn-type]
 }
 ^

$ ./a.out
foo
bar
foo
bar
(snip)
foo
bar
foo
bar
zsh: segmentation fault  ./a.out

呼ばれていないはずの関数barが何度も呼ばれている。

なぜ？

上記のコードを食わすと、関数fooにret文がつかなくなる¹。
すると、処理がbarに移る。
barからfooがcallされているため、無限にfooがcallされてスタックを使い切って死ぬ。

アセンブリも掲載しておく。みやすさのためにc++filtをかけて、かつラベルをいくつか削除してある。

    .globl foo()
foo():
LFB1564:
    pushq   %rbx
    movl    $3, %edx
    leaq    lC0(%rip), %rsi
    movq    std::cout@GOTPCREL(%rip), %rbx
    movq    %rbx, %rdi
    call    std::basic_ostream<char, std::char_traits<char> >& std::__ostream_insert<char, std::char_traits<char> >(std::basic_ostream<char, std::char_traits<char> >&, char const*, long)
    movq    %rbx, %rdi
    call    std::basic_ostream<char, std::char_traits<char> >& std::endl<char, std::char_traits<char> >(std::basic_ostream<char, std::char_traits<char> >&)
    .globl bar()
bar():
    pushq   %rbx
LCFI1:
    movl    $3, %edx
    leaq    lC1(%rip), %rsi
    movq    std::cout@GOTPCREL(%rip), %rbx
    movq    %rbx, %rdi
    call    std::basic_ostream<char, std::char_traits<char> >& std::__ostream_insert<char, std::char_traits<char> >(std::basic_ostream<char, std::char_traits<char> >&, char const*, long)
    movq    %rbx, %rdi
    call    std::basic_ostream<char, std::char_traits<char> >& std::endl<char, std::char_traits<char> >(std::basic_ostream<char, std::char_traits<char> >&)
    call    foo()

関数fooにret文がなく、そのままbarに処理が移ってしまっているのがわかる。

ちなみに、fooの中の処理を空っぽにするとud2を吐くので処理はすぐに止まり、かつSIGILLで死ぬ。

test3.cpp

#include <iostream>

int foo(int m) {
}

void bar() {
  foo(0);
}

int main() {
  foo(0);
}

$ g++ -O1 test3.cpp
test3.cpp: In function 'int foo(int)':
test3.cpp:4:1: warning: no return statement in function returning non-void [-Wreturn-type]
 }
 ^
$ ./a.out
zsh: illegal hardware instruction  ./a.out

まとめ

MacのGCCは、-O1 以上でubsanが有効になり、「返り値があるのに返り値を返さない関数」を書くと、SIGILLで死んだり、最悪無限ループを作ったりするので気をつけましょう。

なぜかは知らん。それこそ悪魔に聞いてください。 ↩

MacのGCCで返り値を返さない関数を書くと鼻から悪魔が出る

はじめに

現象1

なぜ？

現象2

なぜ？

まとめ