مشکل به اون حادی که فکر می کردم نبود

در واقع مشکل از تابع fftw_execute نبود، بلکه تابع قبل از اون یعنی fftw_plan_dft_1d با پارامتر نامناسب مقداردهی شده بود. پارامتر آخر برای اجرای ۳۲ بیتی باید 1- باشه و برای اجرای ۶۴ بیتی ۶۴!