MIDIのnote onイベントを検出して、note onがあったフレームにだけ白い画像を吐き出すようなプログラムを作り、そのプログラムで作成した連番画像の白い画像のフレームを適当に作ったアニメーション素材で置き換えてみました。
最終的にシンセで適当に弾いた即興曲にそれっぽい映像を簡単につけたいだけなんですが、その第一段階としてMIDIからトリガーとなる瞬間のマーカー画像を吐き出すところまで作りました。波形データでなく、MIDIを使うことにしたのは波形データからトリガーとなる瞬間を検出するのが難しそうだったからです。MIDIだと不要な音をシーケンサーで取り除けるのでトリガーにしたい音を絞ることが容易です。いつものように放置しなければ、何かしら音楽とシンクロナイズする映像作品を簡単に作れる仕組みができそうです。