Ojo que no se trata nada mas de "partir tu programa en pedazos" y ya. La ciencia de la programacion multiproceso esta precisamente en saber como analizar tu algoritmo e identificar los puntos "paralelizables", como separar los juegos de datos, como coordinar los procesos e hilos entre si y como integrar un resultado coherente de todo eso.
Un viaje a tu biblioteca favorita para leer varios libros sobre algoritmos paralelos puede ahorrarte dias, semanas o meses de procesamiento que podria haberse hecho de forma mas eficiente y rapida ;-)
