C 言語で Windows の DLL を作れる知識を身につけた上で以下のページを読めば、 AviUtl プラグインの作り方はなんとなく分かるんじゃないかと思います。
- AviUtlのお部屋 にある aviutl_plugin_sdk.zip の中身
- AviUtlプラグイン作成 - AviUtlプラグインWiki(仮、作成中)
- AviUtlの内部形式について
- AviUltプラグインの作り方
- AviUtlプラグイン制作入門（作成からビルドまで）-国道86号線
ここに Lua を組み込むのはけっこうめんどくさいです。
プラグインを作るのが必須でなければ、 Lua でスキンを変換して連番 BMP 画像を書き出し、それを AviUtl で連結するという手も考えられます。スキンの変換は LÖVE などの 2D ゲームエンジンを使うと数学ライブラリも画像ライブラリも使えて楽そうです。
Like!