104 が少し書かれてますが、
https://docs.libretro.com/library/bluemsx/
の BIOS のところのように Machines / Databases をオリジナルの BlueMSX から持ってきて入れてますか？

自分は turboR だけ動かしたくて最初いらないマシン構成全部消して入れてたのですが、それだとうまく起動しませんでした。素直に BlueMSX に含まれているマシン構成丸ごと入れたら起動できるようになったように記憶してます。

あいや、>>86 が書いているように "MSX2" のマシン構成がちゃんと起動できる設定で入っていることが重要だった気も..
(コアのデフォルトで起動してくるマシン構成が "MSX2" になっていて、
この構成が Machines 以下に存在してないと全く起動しないので
他のマシン構成への切り替えすらできなかった)