Сила трения между двумя шарами 0,0001H. какова масса одного из шаров, если расстояние между их центрами 1500мм, а масса другого шара 1300г?

Точно "трений"? Не "тяготения"?
Если всё-же тяготения, то вот:
Основа решения - закон всемирного тяготения:
F=g*m1*m2/r^2
Дано:
F=0.0001 H=10^-4 H
g=6.67*10^-11
m1=100 кг
m2-?
Отсюда m2= (F*r^2)/m1*g
Если правильно посчитать, то m2=14992,5 кг.