我的函数neldermead看起来像这样：
double * neldermead (double data[], double (*function)(int, double, double, double, double, double),
double ia1, double ia2, double ia3, double ia4, double ia5, double rad, int k) {
...
printf("8\n");
double * xout = malloc(5 * sizeof(double));
xout[0] = x[0][0];
xout[1] = x[1][0];
xout[2] = x[2][0];
xout[3] = x[3][0];
xout[4] = x[4][0];
printf("10\n");
return xout;
}
该函数是这样调用的：
...
double * newX;
printf("11\n");
newX = neldermead (data, &function1, F1A1, F1A2, F1A3, F1A4, F1A5, 10, 10000);
printf("12\n");
...
输出如下：
11
8
10
*** stack smashing detected ***: ./a.out terminated
Aborted (core dumped)
使用-fno-stack-protector代码可以正常工作。
我返回数组的方式有什么问题吗？
///////////////////////////////
我修改了代码以通过引用返回。
我的函数neldermead看起来像这样：
double * neldermead (double * xout, double data[], double (*function)(int, double, double, double, double, double),
double ia1, double ia2, double ia3, double ia4, double ia5, double rad, int k) {
...
printf("8\n");
xout[0] = x[0][0];
xout[1] = x[1][0];
xout[2] = x[2][0];
xout[3] = x[3][0];
xout[4] = x[4][0];
printf("9\n");
}
该函数是这样调用的：
...
double newX[5];
printf("10\n");
neldermead (newX, data, &function1, F1A1, F1A2, F1A3, F1A4, F1A5, 10, 10000);
printf("11\n");
...
输出如下：
10
8
9
*** stack smashing detected ***: ./a.out terminated
Aborted (core dumped)
妈的，没救。