В интеграле Фурье есть множитель eiwt=cos(wt)+i*sin(wt) -- комплексная экспонента. Её и гуглите.
Если f(t)=t2 определена на [0;5], то преобразование Фурье сделать можно, т.к она является абсолютно интегрируемой т.е интеграл от её модуля в бесконечных пределах сходится, а эта абсолютная интегрируемость и является условием существования Фурье-преобразования. Соответственно интеграл Фурье существует.
Чтобы осуществить преобразование, нужно вашу функцию просто подставить в формулу преобразования Фурье.
Попробуйте глянуть это http://bukalections.rpod.ru/196272.html